Творець Signal допомагає забезпечити шифрування для Meta AI

Партнерство заради конфіденційності в AI

Moxie Marlinspike, відомий як творець захищеного додатку для спілкування Signal та його відкритого протоколу шифрування, цього тижня повідомив, що його спеціалізована на конфіденційності AI-платформа Confer почне впроваджувати свої технології у системи штучного інтелекту компанії Meta.

Щоденно через Signal, WhatsApp від Meta та додаток Apple Messages відправляють мільярди повідомлень, захищених наскрізним шифруванням. Це означає, що ніхто, крім відправника й отримувача, не може прочитати ваші меседжі — зокрема, й самі компанії. Проте з появою та стрімким розвитком генеративних AI-платформ люди почали щодня активно обмінюватися інформацією з чатботами, які такої захищеності не мають. І це важливо, бо в таких випадках дані часто доступні для AI-компаній, їхніх працівників та навіть сторонніх осіб.

Пояснюють цю ситуацію доволі просто: багато сервісів прагнуть тренувати свої AI-моделі на якомога більшій кількості користувацьких даних. До речі, відмовитися від цього непросто. Водночас, з розвитком штучного інтелекту деякі спеціалісти прагнуть створити більш обмежені та сфокусовані на приватності системи.

Що пропонує Moxie Marlinspike

У нещодавньому блозі Marlinspike наголосив, що обсяг даних, які потрапляють у великі мовні моделі, зростає. І що зараз ці дані не є приватними — компанії, хакери, правоохоронці мають можливість їх бачити. Власне, він планує інтегрувати технології Confer до систем Meta AI, при цьому платформа залишиться незалежною від Meta.

Ідея полягає в тому, щоб кожен користувач міг отримати всю потужність AI разом із безпекою, притаманною зашифрованому спілкуванню. До речі, ще у 2016 році Marlinspike допомагав WhatsApp у впровадженні шифрування для понад мільярда користувачів одночасно.

Варто зазначити, що зараз у WhatsApp діє чатбот на базі Meta AI, але він не має такого рівня захисту від компанії, як самі чати. Керівник WhatsApp, Вілл Кеткарт, підкреслив, що важливо створювати технології так, щоби користувачі могли взаємодіяти з AI, зберігаючи конфіденційність особистої інформації.

Виклики та перспективи зашифрованого AI

Впровадження наскрізного шифрування у AI-платформи — новий фронт у криптографії. Звичні методи шифрування для месенджерів не можна безпосередньо перенести на генеративний AI. Confer — ще молода ініціатива, і про точні механізми співпраці з Meta наразі не відомо багато деталей.

Експерти, такі як криптограф Mallory Knodel з Нью-Йоркського університету, вважають, що забезпечення конфіденційності у чатботах Meta AI було б важливим кроком, адже це означає, що Meta не зможе використовувати ці дані для тренування моделей. В її дослідженні зазначено, що Confer хоч і не досконалий, але хороший приклад приватного AI-чатбота.

Ще один експерт, JP Aumasson, директор з безпеки криптовалютної платформи Taurus, подібної думки — він назвав Confer найкращим у сфері приватних AI-рішень попри деякі недоліки. Зрозуміло, розробка таких систем — складне завдання, тож наразі купа роботи зосереджена на відкритих моделях або на додаткових шарах захисту між користувачем і компанією.

Як з'ясувалося, співпраця з Meta дасть можливість працювати з потужними пропрієтарними моделями, поєднуючи їх із технологіями конфіденційності Confer. Чи вийде досягти найкращого поєднання — покаже час, однак навіть фахівці називають цей проект знаковим.

За словами Aumassona, задум із використанням довірених обчислень, концепції, що існує з 1990-х, логічний і практичний. Він визнає, що вирішення – не ідеальне, але цілком достатнє для більшості користувачів. Водночас виклик полягає у підтримці таких моделей, які могли б конкурувати з омріяними зразками від Anthropic, Google чи OpenAI.