Американский миллиардер Илон Маск и ведущие специалисты в области ИТ призывают приостановить процесс обучения нейросетям из-за беспокойства после появления бота с искусственным интеллектом ChatGPT и аналогичных продуктов.
Источник: Открытое письмо IT-специалистов
Почему ведущие ИТ-эксперты призывают приостановить процесс обучения нейросетям
Отмечается, что открытое письмо о рисках разработки программ на основе искусственного интеллекта для общества и цивилизации подписали миллиардер Илон Маск, соучредитель Apple Стив Возняк и еще более 1 тыс. 100 человек.
Авторы письма отмечают, что соответствующие программы с искусственным интеллектом должны разрабатываться только при уверенности, что это будет иметь только положительные последствия, а соответствующие риски будут контролируемыми.
Специалисты призывают создать специальные протоколы и соответствующие стандарты безопасности, за которыми следят независимые аудиторы.
Пока предлагается временная мера: с остановкой работ до тех пор, пока не будут разработаны стандарты безопасности.
В частности, после запуска чат-бота ChatGPT в конце прошлого года конкуренты ускорили разработку аналогичных продуктов, а компании начали адаптировать генеративные модели на основе искусственного интеллекта к собственным продуктам.
Microsoft, например, с последним обновлением Windows 11 интегрировала обновленный поисковик Bing со встроенным ChatGPT прямо в панель задач.
Разработчики перестают осуществлять нравственный надзор за искусственным интеллектом
По информации Financial Times, технологические гиганты сокращают команды, представители которых оценивают этические вопросы при разработке продуктов на основе искусственного интеллекта.
Это приводит к беспокойству среди специалистов по безопасности новой технологии, которая стремительно распространяется и приобретает применение среди потребительских товаров.
В частности, сокращение команд по искусственному интеллекту произошло в Microsoft, Meta, Google, Amazon и Twitter.
Представители этих команд должны консультировать клиентов по вопросам безопасности потребительских товаров на основе искусственного интеллекта.
Число пострадавших сотрудников исчисляется десятками и составляет небольшую часть от десятков тысяч сотрудников, уволенных в ответ на общий спад в отрасли.
В компаниях заявляют, что по-прежнему привержены разработке безопасных продуктов.
Однако, по словам экспертов, сокращения вызывают беспокойство, поскольку потенциальные злоупотребления технологией проявляются именно тогда, когда миллионы людей начинают экспериментировать с инструментами искусственного интеллекта.
Их беспокойство возросло после успеха чат-бота ChatGPT, запущенного компанией OpenAI, поддерживаемой Microsoft, что заставило другие технологические фирмы выпустить конкурентов, такие как Bard от Google и Claude от Anthropic.
Шокирует то, сколько людей, занимающихся ответственным ИИ, увольняются в то время, когда, возможно, вам нужно больше таких команд, чем когда-либо, - отмечает бывший исследователь по этике и политике в принадлежащей Alphabet компании DeepMind и заместитель директора исследовательской организации Ada Lovelace Institute Эндрю Стрейт.
В январе Microsoft распустила всю свою команду по этике, которая возглавляла начальную работу компании в этой сфере. Технологический гигант заявил, что сокращение составило менее 10 должностей, и что в офисе ответственного ИИ все еще работают сотни человек.
Twitter сократил более половины своего штата под руководством нового владельца-миллиардера Илона Маска, включая небольшую команду по этическому ИИ. Ее прошедшая работа включала исправление предвзятости алгоритма Twitter, который предпочитал белые лица при выборе способа обрезки изображений в социальной сети. Twitter не ответил на запрос о комментариях.
На прошлой неделе Twitch, принадлежащая Amazon, стриминговая платформа сократила свою команду по вопросам этики ИИ, возложив на все команды, работающие над продуктами ИИ, ответственность за проблемы, связанные с предвзятостью, по словам источника, знакомого с этим решением. Twitch отказался от комментариев.
В сентябре Meta распустила свою ответственную инновационную команду из около 20 инженеров и этиков, занимавшихся оценкой соблюдения гражданских прав и этики в Instagram и Facebook. Meta не ответила на запрос о комментариях.
Читайте также:
Neuralink Илона Маска ищет партнеров для испытаний мозговых чипов на людях;
Компанию Маска обвинили в издевательстве над животными
Neuralink Илона Маска готовится к испытаниям мозговых имплантов на людях
