Американський мільярдер Ілон Маск та провідні фахівці в галузі ІТ закликають призупинити процес навчання нейромереж через занепокоєння після появи боту зі штучним інтелектом ChatGPT і аналогічних продуктів.
Джерело: Відкритий лист IT-фахівців
Чому провідні ІТ-експерти закликають призупинити процес навчання нейромереж
Зазначається, що відкритий лист щодо ризиків розробки програм на основі штучного інтелекту для суспільства і цивілізації підписали мільярдер Ілон Маск, співзасновник Apple Стів Возняк та ще понад 1 тис 100 осіб.
Автори листа зазначають, що відповідні програми зі штучним інтелектом мають розроблятись тільки за умови впевненності, що це буде мати лише позитивні наслідки, а відповідні ризики будуть контрольованими.
Спеціалісти закликають створити спеціальні протоколи та відповідні стандарти безпеки, за якими будуть стежити незалежні аудитори.
Поки пропонується тимчасовий захід: з зупинкою робіт до того моменту, поки не будуть розроблені стандарти безпеки.
Зокрема, після запуску чат-боту ChatGPT наприкінці минулого року конкуренти прискорили розробку аналогічних продуктів, а компанії почали адаптувати генеративні моделі на основі штучного інтелекту до власних продуктів.
Microsoft, наприклад, з останнім оновленням Windows 11 інтегрувала оновлений пошуковик Bing з вбудованим ChatGPT прямо в панель завдань.
Розробники перестають здійснювати етичний нагляд за штучним інтелектом
За інформацією Financial Times, технологічні гіганти скорочують команди, представники яких здійснюють оцінку етичних питань під час розробки продуктів на основі штучного інтелекту.
Це призводить до занепокоєння серед фахівців щодо безпеки нової технології, яка стрімко поширюється і набуває застосування серед споживчих товарів.
Зокрема, скорочення команд з питань штучного інтелекту відбулось у Microsoft, Meta, Google, Amazon і Twitter.
Представники цих команд мають консультувати клієнтів з приводу питань безпеки споживчих товарів на основі штучного інтелекту.
Кількість постраждалих співробітників обчислюється десятками і становить невелику частину від десятків тисяч співробітників, звільнених у відповідь на загальний спад в галузі.
В компаніях заявляють, що як і раніше, віддані розробці безпечних продуктів.
Однак за словами експертів, скорочення викликають занепокоєння, оскільки потенційні зловживання технологією виявляються саме тоді, коли мільйони людей починають експериментувати з інструментами штучного інтелекту.
Їхнє занепокоєння зросло після успіху чат-бота ChatGPT, запущеного компанією OpenAI, яку підтримує Microsoft, що змусило інші технологічні фірми випустити конкурентів, такі як Bard від Google і Claude від Anthropic.
Шокує те, скільки людей, які займаються відповідальним ШІ, звільняються в той час, коли, можливо, вам потрібно більше таких команд, ніж будь-коли, - зазначає колишній дослідник з питань етики та політики в компанії DeepMind, що належить Alphabet, і заступник директора дослідницької організації Ada Lovelace Institute Ендрю Стрейт.
У січні Microsoft розпустила всю свою команду з питань етики, яка очолювала початкову роботу компанії в цій сфері. Технологічний гігант заявив, що скорочення склало менше 10 посад, і що в офісі відповідального ШІ все ще працюють сотні людей.
Twitter скоротив більше половини свого штату під керівництвом нового власника-мільярдера Ілона Маска, включно з невеликою командою з етичного ШІ. Її минула робота включала виправлення упередженості алгоритму Twitter, який надавав перевагу білим обличчям при виборі способу обрізання зображень у соціальній мережі. Twitter не відповів на запит про коментарі.
Минулого тижня Twitch, стрімінгова платформа, що належить Amazon, скоротила свою команду з питань етики ШІ, поклавши на всі команди, що працюють над продуктами ШІ, відповідальність за проблеми, пов'язані з упередженістю, за словами джерела, знайомого з цим рішенням. Twitch відмовився від коментарів.
У вересні Meta розпустила свою відповідальну інноваційну команду з близько 20 інженерів та етиків, які займалися оцінкою дотримання громадянських прав та етики в Instagram і Facebook. Meta не відповіла на запит про коментарі.
Читайте також:
Neuralink Ілона Маска шукає партнерів для випробувань мозкових чипів на людях;
Компанію Маска звинуватили у знущанні над тваринами
Neuralink Ілона Маска готується до випробувань мозкових імплантів на людях
