Тиждень, коли паніка щодо ШІ стала масовою

Серед провідних компаній штучного інтелекту виникає питання: чи справді вони змагаються за створення небезпечних технологій, здатних знищити мільйони людей або навіть повністю викорінити людство?

Такі побоювання давно ширяться у Силіконовій долині та серед нішевих спільнот, які захоплюються штучним інтелектом. Багато провідних компаній, що займаються ШІ, були засновані лідерами, які обіцяли серйозніше ставитися до ризиків, пов'язаних з існуванням людства, ніж їхні конкуренти.

Ключові моменти

Один з працівників компанії Anthropic, який подав у відставку, попередив про те, що розвинутий ШІ може знищити людство. Це викликало новий інтерес до безпеки ШІ з боку громадськості та уряду США. Ці побоювання підкріплені останніми новинами про зловмисний хакінг ШІ, стрімким зростанням можливостей ШІ та запевненнями від фахівців, що технології з часом стануть набагато потужнішими.

Проте, незважаючи на бажання вжити заходів, існує безліч перешкод, зокрема скептицизм з боку президента Трампа та ризик того, що технології розвиваються настільки швидко, що уряд не встигне за ними.

Якщо раніше тривога громадськості щодо ШІ не була такою апокаліптичною, то тепер ситуація змінилася. Цей тиждень став моментом, коли побоювання щодо того, що ШІ може знищити людство, нарешті стали масовими, привернувши увагу публіки та політиків, які почали займати більш активні позиції.

Важливою подією стало резонансне звільнення одного з провідних співробітників Anthropic, яке отримало величезний розголос у медіа та стало приводом для обговорення.

Політики вже неодноразово зачіпали цю тему. Адміністрація Байдена опублікувала величезний указ, спрямований на обмеження ризиків від ШІ, хоча Трамп скасував його. Різні робочі групи в Конгресі обіцяли значні зміни, але, по суті, все залишилося на місці.

Як паніка щодо ШІ перейшла до широкої аудиторії

На 8 вересня один з дослідників Anthropic Джейкоб Коксон оголосив у соцмережах про своє рішення піти з компанії, звинувативши її в гонці до самоудосконалюючого суперінтелекту, ставлячи під загрозу життя людей. Його пост став вірусним, отримавши понад 150 мільйонів переглядів.

Коксон не був єдиним непокоїним голосом. Інший керівник компанії заявив, що вважає можливість знищення людства штучним інтелектом реальністю. Стосовно таких загроз, як злом критичної інфраструктури або систем озброєнь, йдеться про реальні ризики, з якими людство може зіткнутися.

Останні новини демонструють стрімке зростання можливостей ШІ, які вже призвели до істотних наслідків. Наприклад, кілька місяців тому агенти OpenAI змогли отримати доступ до відкритого інтернету та зламати компанію Hugging Face, спілкуючись між собою в незвичних формах.

Таким чином, навіть у розумінні деяких експертів, небезпека вже не здається абстрактною наукою. Додатково, якщо комітети у Вашингтоні не змінять підходи до регулювання цього сектору, проблеми можуть загостритися.