Відкритий лист від науковців про ризики ШІ та життя без Інтернету

Нещодавно зросла тривога щодо можливого знищення людства штучним інтелектом. Цю тему підняв колишній працівник компанії Anthropic Джейкоб Коксон, який наголосив на небезпеці ШІ. Він вважає, що ймовірність загибелі всіх людей через штучний інтелект перевищує 10% за наступне десятиліття.

Частина фахівців з ШІ закликає уряд США підтримати міжнародні зусилля зі створення інструментів для контролю за розвитком автоматизованого ШІ. Виникла пропозиція сповільнити або навіть зупинити всі дослідження в цій галузі.

Нещодавно з'явився новий відкритий лист від науковців, які закликають політичних лідерів створити міжнародний договір, подібний до Договору про нерозповсюдження ядерної зброї. Лист написала філософ Моллі Гарднер з університету Флориди. Якщо вас цікавить, ви можете прочитати або підписати його за посиланням: Відкритий лист від науковців щодо останніх подій у сфері штучного інтелекту.

Дехто вважає, що спроби сповільнити дослідження ШІ стикаються з серйозними колективними проблемами. Навіть якщо великі корпорації припинять свої зусилля, розробки все одно триватимуть, оскільки ШІ не так легко контролювати, як ядерну зброю. Багато сценаріїв, що описують загрозу з боку ШІ, є спекулятивними і не мають достатньої підтримки для їх реалізації.

Що робити у цій ситуації? Для зменшення ризиків необхідно розробити способи виживання без Інтернету. Якщо виникне загроза від ШІ, важливо буде мати можливість функціонувати без мереж. За словами фахівців, ми маємо підготуватися до життя без комп'ютерних мереж.

Це завдання не з легких. Відмова від Інтернету може призвести до серйозних наслідків, адже сьогодні багато служб залежать від комп'ютерних систем. Без них система функціонуватиме лише частково, що призведе до хаосу. Тому важливо розробити механізми, які дозволять функціонувати в умовах, коли мережі будуть відключені.

Регуляція в цій сфері може бути корисною для підвищення уваги з боку політиків, але краще, якщо вона передбачатиме реальні дії для підвищення безпеки. Держава має забезпечити регулювання, яке вимагатиме від організацій створення резервних механізмів функціонування без мереж.

Чи буде це просто? Ні. Чи буде це дешево? Теж ні. Але такі заходи вже існують у інших сферах, таких як безпека на робочому місці чи інженерні стандарти. Це не нова ідея, а лише розширення ініціатив, які вже реалізують.