ИИ напоминает атомную бомбу. Человечество должно принять мощные меры безопасности — мнение эксперта

Алексей Грушевский

Источник: The Byte

Компании, работающие с искусственным интеллектом, от OpenAI до Google, установили определенные меры безопасности, сдерживающие технологию, но бывший генеральный директор Google Эрик Шмидт убежден, что нынешних мер "недостаточно".

ИИ будет угрожать человечеству уже через 5 лет – эксперт

Человечество приняло недостаточно мер для того, чтобы быть способным остановить искусственный интеллект от катастрофического ущерба. Ситуация может повторить бомбардировки японских городов Хиросима и Нагасаки в 1945 году.

Об этом заявил бывший генеральный директор Google Эрик Шмидт, который сейчас является главой Комиссии национальной безопасности США по искусственному интеллекту. Он сравнил ИИ с атомными бомбами, которые США сбросили на Японию.

После Нагасаки и Хиросимы понадобилось 18 лет, чтобы заключить договор о запрещении испытаний (атомного оружия) и тому подобное, – сказал он, подчеркнув, что сегодня у человечества просто "нет столько времени".

Известно, что компании, работающие с искусственным интеллектом, от OpenAI до Google, установили определенные меры безопасности, сдерживающие технологию, но Шмидт убежден, что нынешних мер "недостаточно".

Эксперт считает, что всего за пять-десять лет ИИ может стать достаточно мощным, чтобы нанести вред человечеству.

Худшим сценарием, по его словам, будет "момент, когда компьютер может начать принимать собственные решения".

Если параллельно с этим ИИ сможет получить доступ к системам вооружения или добиться других ужасающих возможностей, машины могут начать врать людям об этом.

Шмидт считает, что для предотвращения этого ужасного результата необходимо создать неправительственную организацию типа Межправительственной группы экспертов ООН по изменению климата, которая "давала бы точную информацию политикам" и помогала принимать решения о том, что делать, если ИИ станет слишком мощным.

Стоит заметить, что пока одни ученые видят в ИИ экзистенциальную угрозу для человечества, другие – более скептичны по этому поводу. Да, Ян ЛеКун, возглавляющий отдел ИИ в компании Meta, не считает технологию достаточно разумной для того, чтобы она могла самостоятельно угрожать человечеству. То есть, ИИ может быть угрозой, но только если им будет руководить кто-то со зловещими замыслами по отношению к человечеству.

Дебаты об экзистенциальном риске очень преждевременны, пока мы не разработаем систему, которая по обучающей способности не будет уступать даже кошке, чего у нас пока нет, – заявил ЛеКун в интервью FT.

Пентагон готовит революцию ИИ в армии

Министерство обороны США планирует развернуть тысячи автономных транспортных средств с искусственным интеллектом к 2026 году

Об этом сообщает Associated Press.

Искусственный интеллект играет все большую роль в военных операциях США, помогая ведению боевых действий и разведке. Теперь Пентагон намерен развернуть тысячи автономных транспортных средств, чтобы не отставать от Китая. Эта инициатива, известная как Replicator, направлена на ускорение процесса использования искусственного интеллекта в американской военной сфере.

Благодаря искусственному интеллекту, автономные устройства могут прогнозировать техническое обслуживание самолетов ВВС, а также помогать отслеживать вражеские силы. Из-за быстроты обработки данных и улучшения межмашинной коммуникации прогресс в этой области приведет к тому, что люди будут играть роль надзирателей.

План Replicator обусловлен потребностью США в внедрении разработок искусственного интеллекта, ставших результатом последних прорывов в области машинного обучения.

Министерство обороны борется за внедрение разработок ИИ, ставших результатом последнего прорыва в области машинного обучения, – сказал Грегори Аллен, бывший высокопоставленный чиновник Пентагона по вопросам ИИ, работающий сейчас в аналитическом центре Центра стратегических и международных исследований.

В портфеле Пентагона насчитывается более 800 проектов с искусственным интеллектом, многие из которых находятся в стадии тестирования. Эти технологии помогают получать информацию и повышать эффективность военных операций.