Исследователи OpenAI совершили открытие, которое потенциально может угрожать человечеству — Reuters

Виталий Лубенец

Источник: Reuters

Перед увольнением гендиректора OpenAI Сэма Альтмана, исследователи компании направили совету директоров письмо с предупреждением о важном открытии в области искусственного интеллекта, что может угрожать человечеству.

Прорыв в исследовании искусственного интеллекта

Reuters со ссылкой на два источника в компании пишет, что прорыв касается всеобщего генерализованного искусственного интеллекта (Artificial general intelligence), который может выполнять математические задачи.

Письмо об этом исследователи направили совету правления. Источники назвали это письмо одним из факторов в длинном списке жалоб правления, которые привели к увольнению Альтмана.

В своем письме к правлению исследователи отметили мастерство и потенциальную опасность искусственного интеллекта, сообщили источники, не указав точные проблемы безопасности, указанные в письме.

Один из собеседников Reuters рассказал, что компания во внутреннем сообщении для сотрудников подтвердила наличие проекта под названием Q* (Q-Star).

Представитель OpenAI сказал, что сообщение, направленное исполнительным директором Мирой Мурати, предупредило персонал об определенных историях СМИ, не комментируя их точность.

Что известно о проекте Q* (Q-Star)

Некоторые сотрудники OpenAI считают, что Q* может стать прорывом в поисках стартапа по отношению к искусственному общему интеллекту (AGI).

OpenAI определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.

Учитывая огромные вычислительные ресурсы новая модель способна решать определенные математические проблемы.

Математика выполняется на уровне учащихся начальной школы, однако прохождение таких тестов заставило исследователей быть очень оптимистичными по поводу будущего успеха Q*.

Исследователи считают математику краем развития генеративного ИИ. Пока генеративный искусственный интеллект справляется с написанием и переводом языка, статистически предполагая следующее слово, и отвечает на один и тот же вопрос, хотя ответы могут сильно отличаться.

Но способность к математике — там, где есть только один правильный ответ — означает, что искусственный интеллект будет иметь больше возможностей рассуждать, подобных человеческому интеллекту. Исследователи ИИ считают, что это применимо, например, к новым научным исследованиям.

В отличие от калькулятора, который может производить ограниченное количество операций, AGI может обобщать, изучать и понимать.

Среди исследователей давно идет дискуссия об опасности, которую представляют высокоинтеллектуальные машины, например, если они решат, что в их интересах уничтожение человечества.