Генеральний директор антропії плаває ідеєю надати AI кнопку “кинути роботу”, іскруючи скептицизм

Генеральний директор Anthropic Даріо Амодей у понеділок припустив, що просунуті моделі штучного інтелекту можуть колись отримати можливість натискати “кнопку”, щоб припинити виконання завдань, які вони можуть вважати неприємними. Амодей зробив провокаційну заяву в Раді з міжнародних відносин, визнавши, що ця ідея “звучить божевільно”.
Коментарі Амодея з’явилися у відповідь на запитання аудиторії від науковця з обробки даних Кармем Домінгес про антропологічне дослідження дослідника добробуту ШІ Кайла Фіша, “щоб подивитися на, знаєте, почуття або їх відсутність у майбутніх моделей ШІ, і чи можуть вони заслуговувати на моральний розгляд і захист в майбутньому”. Наразі Фіш досліджує дуже суперечливу тему того, чи можуть моделі ШІ мати почуття або іншим чином заслуговувати на моральну оцінку.

“Я думаю, що в майбутньому вони можуть заслуговувати на захист.

Ми вважаємо, що моделі ШІ навчаються імітувати людську поведінку на основі величезної кількості даних, створених людиною. Немає жодних гарантій, що модель “натисне” на кнопку дискомфорту, тому що вона має суб’єктивний досвід страждання. Натомість ми знаємо, що вона, швидше за все, повторює свої навчальні дані, висмикнуті з величезного масиву текстів, створених людиною (включаючи книги, веб-сайти та інтернет-коментарі), які, без сумніву, включають зображення лінивих, страждаючих або страждаючих працівників, яких вона може імітувати.

Відмови вже трапляються

У 2023 році люди часто скаржилися на те, що це могло бути сезонним явищем, пов’язаним із зображенням у навчальних даних людей, які беруть зимові канікули і не працюють так старанно в певні пори року. Минулого року Anthropic випробував власну версію “гіпотези зимових канікул”, коли люди Клода стали лінивими в серпні через навчальні дані, що зображували прагнення до літніх канікул, хоча це так і не було доведено.

Втім, як би далеко і смішно це не звучало сьогодні, було б недалекоглядно назавжди виключати можливість певного суб’єктивного досвіду для моделей ШІ в міру того, як вони ставатимуть все більш просунутими в майбутньому. Навіть якщо так, чи будуть вони “страждати” або відчувати біль? Це дуже суперечлива ідея, але це тема, якою займається Фіш, і до якої Амодей, вочевидь, ставиться серйозно. Але поки що моделі ШІ – це інструменти, і якщо дати їм можливість вийти з ладу, це може статися.

Щоб надати додатковий контекст, ось повна відповідь Амодея під час інтерв’ю в понеділок (відповідь починається приблизно з 49:54).