Сотни влиятельных людей бьют тревогу из-за "суперинтеллекта"

Богдан Колесник

Источник: CNBC

Более 850 публичных лиц подписали заявление с требованием приостановить разработку "суперинтеллекта". Что важно понимать, речь идет о форме искусственного интеллекта, которая превзойдет человека в большинстве когнитивных задач.

Главные тезисы

Подписанты заявления призывают приостановить разработку "суперинтеллекта" к моменту достижения широкого научного согласия и общественной поддержки.
Если этого не произойдет, человечество может оказаться под угрозой уничтожения.

"Суперинтеллект" пугает даже миллиардеров

Журналисты обратили внимание на то, что к этому заявлению присоединились соучредитель Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, а также Йошу Бенжио и Джефри Хинтон.

Что важно понимать, последних считают "крестными родителями" современного искусственного интеллекта.

Вероятность появления "суперинтеллекта" становится все выше, поскольку компания xAI Илона Маска в OpenAI Сэма Альтмана постоянно конкурирует в создании более мощных языковых моделей.

По словам авторов заявил, человечество может столкнуться со многими серьезными проблемами, если суперШИ все-таки создадут.

В первую очередь речь идет об экономическом и социальном отчуждении людей, потере свободы и гражданских прав, а также угрозах национальной безопасности.

Нельзя также игнорировать самый жуткий сценарий — фактическое уничтожение самого человечества.

Именно поэтому более 850 подписантов указанного заявления призывают запретить развитие суперинтеллекта, пока не удастся достичь широкого научного согласия и общественной поддержки безопасного контроля технологии.

С комментарием на этот счет выступил компьютерный ученый Йошуа Бенжио:

Чтобы безопасно двигаться к суперинтеллекту, нужно создать системы ИИ, которые не способны вредить людям, и дать общественности большее влияние на решения, формирующие наше будущее.