Техногиганты сокращают этические команды для ИИ: это вызывает опасения относительно безопасности

Крупные технологические компании сокращают персонал команд, которые занимаются оценкой этических вопросов, связанных с внедрением искусственного интеллекта, что приводит к беспокойству о безопасности новой технологии, поскольку она приобретает широкое применение в потребительских товарах.

Об этом пишет Financial Times.

Microsoft, Meta, Google, Amazon и Twitter являются одними из компаний, которые сократили членов своих "ответственных команд по вопросам искусственного интеллекта", которые консультируют по вопросам безопасности потребительских товаров, использующих искусственный интеллект.

Количество пострадавших сотрудников исчисляется десятками и составляет небольшую часть от десятков тысяч сотрудников, уволенных в ответ на общий спад в отрасли.

Компании заявили, что они остаются приверженными разработке безопасных продуктов искусственного интеллекта. Но эксперты говорят, что сокращения вызывают беспокойство, поскольку потенциальные злоупотребления технологией проявляются именно тогда, когда миллионы людей начинают экспериментировать с инструментами искусственного интеллекта.

Их беспокойство возросло после успеха чат-бота ChatGPT, запущенного компанией OpenAI, которую поддерживает Microsoft, что заставило другие технологические фирмы выпустить конкурентов, такие как Bard от Google и Claude от Anthropic.

"Шокирует то, сколько людей, занимающихся ответственным ИИ, увольняются в то время, когда, возможно, вам нужно больше таких команд, чем когда-либо", - сказал Эндрю Стрейт, бывший исследователь по вопросам этики и политики в компании DeepMind, принадлежащей Alphabet, и заместитель директора исследовательской организации Ada Lovelace Institute.

В январе Microsoft распустила всю свою команду по вопросам этики, которая возглавляла начальную работу компании в этой сфере. Технологический гигант заявил, что сокращение составило менее 10 должностей, и что в офисе ответственного ИИ все еще работают сотни людей.

"Мы значительно расширили наши усилия в сфере ответственного ИИ и приложили немало усилий, чтобы институционализировать их во всей компании", - сказала руководитель отдела ответственного ИИ в Microsoft Наташа Крамптон.

Twitter сократил более половины своего штата под руководством нового владельца-миллиардера Илона Маска, включая небольшую команду по этическому ИИ. Ее прошлая работа включала исправление предвзятости алгоритма Twitter, который отдавал предпочтение белым лицам при выборе способа обрезки изображений в социальной сети. Twitter не ответил на запрос о комментариях.

На прошлой неделе Twitch, стриминговая платформа, принадлежащая Amazon, сократила свою команду по вопросам этики ИИ, возложив на все команды, работающие над продуктами ИИ, ответственность за проблемы, связанные с предвзятостью, по словам источника, знакомого с этим решением. Twitch отказался от комментариев.

В сентябре Meta распустила свою ответственную инновационную команду из около 20 инженеров и этиков, которые занимались оценкой соблюдения гражданских прав и этики в Instagram и Facebook. Meta не ответила на запрос о комментариях.

Экономическая правда