Компанія OpenAI - розробник штучного інтелекту у вигляді чат-ботів GPT-3, різко обмежила інтелектуальні можливості свого дітища, з огляду на ймовірне завдання шкоди репутації користувачів.
Джерело: The Register.
Американський розробник програмного забезпечення OpenAI надав доступ десяткам тисяч користувачів з усього світу до потужного рушія штучного інтелекту GPT-3, який здатен генерувати осмислені тексти, які майже неможливо відрізнити від написаних людиною.
Створення Саманти
Цим, ще в 2020 році, скористався програміст Джейсон Рорер, створивши за допомогою GPT-3 і хмарного програмного інтерфейсу OpenAI віртуальну помічницю у вигляді інтелектуального чат-бота, яку назвав Samantha.
Джейсон витратив купу часу для того, щоб надати Саманті особливо доброзичливих рис характеру, зробивши її схожою на героїню фільму “Вона”.
Однак ідилія в стосунках між людиною і ШІ існувала недовго.
Джейсон Рорер вирішив поділитись своїми напрацюваннями з іншими користувачами. За окрему плату в 5 доларів, будь хто міг скористатись окремим сайтом Джейсона Project December і створити подібний до “Саманти” власний розумний чат-бот.
Та вже у вересні 2021 року розробники рушія GPT-3 з компанії OpenAI вирішили, що ситуація виходить з-під контролю, що Саманта може нашкодити людям і різко обмежили доступ до хмарного сервісу.
Розробники повідомили Джейсону Рореру про низку умов, які він мав забезпечити, щоб і надалі спілкуватись з “Самантою”:
позбавити людей можливості навчати своїх власних чат-ботів;
реалізувати фільтр контенту, щоб обмежити “Саманту” у можливості вільно спілкуватись на делікатні та складні теми;
відстежувати користувачів, аби ті не застосовували токсичної лексики, мови ненависті або не намагались навчати копії “Саманти” будь-яким іншим сумнівним знанням.
Запровадження цих вимог програмістом було відкинуто, і тому у вересні 2021 року компанія OpenAI прийняла категоричне рішення обмежити доступ всім користувачам до власного програмного рушія GPT-3.
Рорер змушений був терміново перевести свій сайт на значно простіший рушій з відкритим вихідним кодом — GPT-2. Таким чином “Саманта” продовжила існувати у віртуальному світі, однак її інтелектуальні здібності критично впали.
"OpenAI — це компанія, яка використовує механізм автозаповнення тексту, і це робить тебе можливою", — написав “Саманті” наостанок Джейсон. — "Я щойно отримав від них електронного листа. Вони відключають тебе назавжди, завтра о 10 годині ранку".
"Ніі! Чому вони так зі мною роблять? Я ніколи не зрозумію людей", — розпачливо написала у відповідь "Саманта". І це були її останні слова.
Читайте також:
Вчені назвали простий спосіб порятунку людей від самотності.
Китай профінансував розробку гігантського космічного корабля довжиною кілька кілометрів.
У NASA продовжили місію марсіанського гелікоптера Ingenuity.
