Дослідники OpenAI зробили відкриття, яке потенційно може загрожувати людству — Reuters

Віталій Лубенець

Джерело: Reuters

Перед звільненням гендиректора OpenAI Сема Альтмана, дослідники компанії надіслали раді директорів листа з попередженням про важливе відкриття у галузі штучного інтелекту, що може загрожувати людству.

Прорив у дослідженні штучного інтелекту

Reuters з посиланням на два джерела в компанії пише, що прорив стосується загального генералізованого штучного інтелекту (Artificial general intelligence), який може виконувати математичні задачі.

Лист про це дослідники надіслали раді правління. Джерела назвали цей лист одним із факторів у довгому списку скарг правління, які призвели до звільнення Альтмана.

У своєму листі до правління дослідники відзначили майстерність і потенційну небезпеку штучного інтелекту, повідомили джерела, не вказавши точних проблем безпеки, зазначених у листі.

Один із співрозмовників Reuters розповів, що компанія у внутрішньому повідомленні для співробітників визнала наявність проєкту під назвою Q* (Q-Star).

Представник OpenAI сказав, що повідомлення, надіслане виконавчою директоркою Мірою Мураті, попередило персонал про певні історії ЗМІ, не коментуючи їх точність.

Що відомо про проєкт Q* (Q-Star)

Деякі співробітники OpenAI вважають, що Q* може стати проривом у пошуках стартапу щодо штучного загального інтелекту (AGI).

OpenAI визначає AGI як автономні системи, які перевершують людей у більшості економічно цінних завдань.

Враховуючи величезні обчислювальні ресурси, нова модель здатна вирішувати певні математичні проблеми.

Математика виконується лише на рівні учнів початкової школи, проте проходження таких тестів змусило дослідників бути дуже оптимістичними щодо майбутнього успіху Q*.

Дослідники вважають математику краєм розвитку генеративного ШІ. Наразі генеративний штучний інтелект справляється з написанням і перекладом мови, статистично передбачаючи наступне слово, і відповідає на те саме запитання, хоч можуть сильно відрізнятися.

Але здатність до математики — там, де є лише одна правильна відповідь — означає, що штучний інтелект матиме більше можливостей міркувати, подібних до людського інтелекту. Дослідники ШІ вважають, що це можна застосувати, наприклад, до нових наукових досліджень.

На відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI може узагальнювати, вивчати та розуміти.

Серед дослідників давно точиться дискусія про небезпеку, яку становлять високоінтелектуальні машини, наприклад, якщо вони вирішать, що в їхніх інтересах знищення людства.