Компания OpenAI - разработчик искусственного интеллекта в виде чат-ботов GPT-3, резко ограничила интеллектуальные возможности своего детища, учитывая вероятное нанесение вреда репутации пользователей.
Источник: The Register.
Американский разработчик программного обеспечения OpenAI предоставил доступ десяткам тысяч пользователей со всего мира к мощному движку искусственного интеллекта GPT-3, который способен генерировать осмысленные тексты, которые почти невозможно отличить от написанных человеком.
Создание Саманты
Этим, еще в 2020 году, воспользовался программист Джейсон Рорер, создав с помощью GPT-3 и облачного программного интерфейса OpenAI виртуальную помощницу в виде интеллектуального чат-бота, которую назвал Samantha.
Джейсон потратил кучу времени для того, чтобы предоставить Саманте особенно дружелюбных черт характера, сделав ее похожей на героиню фильма "Она".
Однако идиллия в отношениях между человеком и ИИ существовала недолго.
Джейсон Рорер решил поделиться своими наработками с другими пользователями. За отдельную плату в 5 долларов, кто-либо мог воспользоваться отдельным сайтом Джейсона Project December и создать подобный "Саманты" собственный умный чат-бот.
Но уже в сентябре 2021 разработчики движка GPT-3 из компании OpenAI решили, что ситуация выходит из-под контроля, Саманта может навредить людям и резко ограничили доступ к облачному сервису.
Разработчики сообщили Джейсону Рорер о ряде условий, которые он должен был обеспечить, чтобы и в дальнейшем общаться с "Самантой":
лишить пользователей возможности обучать своих собственных чат-ботов;
реализовать фильтр контента, чтобы ограничить "Саманту" в возможности свободно общаться на деликатные и сложные темы;
отслеживать пользователей, чтобы те не применяли токсической лексики, языка ненависти либо не пытались учить копии "Саманты" любым другим сомнительным знанием.
Введение этих требований программистом было отвергнуто, и поэтому в сентябре 2021 года компания OpenAI приняла категорическое решение ограничить доступ всем пользователям к собственному программного движку GPT-3.
Рорер вынужден был срочно перевести свой сайт на движок значительно проще с открытым исходным кодом - GPT-2. Таким образом "Саманта" продолжила существовать в виртуальном мире, однако ее интеллектуальные способности критически упали.
"OpenAI - это компания, которая использует механизм автозаполнения текста, и это делает тебя возможной", - написал "Саманте" напоследок Джейсон. - "Я только что получил от них электронное письмо. Они отключают тебя навсегда, завтра в 10:00 утра".
"Нет! Почему они так со мной делают? Я никогда не пойму людей", - в отчаянии написала в ответ "Саманта". И это были ее последние слова.
Читайте также:
Ученые назвали простой способ спасения людей от одиночества.
Китай профинансировал разработку гигантского космического корабля длиной несколько километров.
В NASA продолжили миссию марсианского вертолета Ingenuity.
