Microsoft встановлює обмеження для майбутніх AI-моделей

Мустафа Сулейман, CEO Microsoft AI, виступив на заході, присвяченому 50-річчю компанії, що відбувся у Редмонді, штат Вашингтон, 4 квітня 2025 року.

Компанія Microsoft опублікувала попередній кодекс поведінки, який запроваджує обмеження для її моделей штучного інтелекту. Це сталося через кілька днів після того, як керівники Anthropic та OpenAI домовились сповільнити темп розвитку.

Компанія, що стоїть за Windows і Office, прагне позиціонувати себе як відповідальний гравець в сфері AI, де вона є одним з провідних постачальників хмари.

"Ми отримали відгуки від людей, які хотіли бачити ще більше чітких зобов'язань щодо того, що AI завжди має працювати на благо людей, а не на їх заміну," — зауважив Сулейман в інтерв'ю CNBC. "Ми побачили багато відгуків про те, що AI не повинен створювати залежність і завжди має сприяти людському судженню та автономії."

Microsoft вирішила оприлюднити ці рекомендації внаслідок нещодавнього обговорення, хоча вони розроблялися протягом приблизно п'яти місяців.

Експерти AI та члени суспільства все більше висловлюють свої побоювання, оскільки технологія стає дедалі потужнішою. Минулого тижня дослідник з Anthropic Джейкоб Коксон звільнився, зазначивши, що лабораторія AI та OpenAI "мчать прямо до самовдосконалюючогося суперінтелекту і грають із нашими життями."

Лідери галузі відреагували на це. У суботу CEO Anthropic Даріо Амодей заявив, що інцидент з Hugging Face частково переконав його закликати до уповільнення темпу покращення AI-моделей. CEO OpenAI Сем Альтман висловив свою підтримку, а CEO SpaceX Ілон Маск написав у X, що "Даріо правий."

"Самопослідовність — це добре, і ми підтримуємо ідеї, такі як вбудовані оцінювачі, якщо вони дійсно є сторонніми і представляють широкий спектр фонової інформації та перспектив," — додав Сулейман. "Ми працюємо з Даріо, Семом і Демісом [Хассабісом] ще до пандемії — 2016, 2017, 2018 років. Ми обговорювали, як координувати зусилля для забезпечення безпеки та правильного темпу, і я вважаю, що цей момент настав."

Крім того, CEO Microsoft Сатя Наделла зазначив у пості в X, що "ми вітаємо дослідження, увагу та свідомий темп, необхідні для досягнення відповідності."

Законодавці закликали до створення більшого захисту в AI.

Детальніше з технічних новин CNBC

Нагадаємо, що Anthropic і OpenAI зараз очолюють рейтинг компанії Artificial Analysis за Intelligence Index. Microsoft інтегрує моделі з обох лабораторій у свого помічника Copilot для корпоративних працівників, одночасно розробляючи моделі для транскрипції, кодування та міркування над введеними даними.

Моделі Microsoft не можуть обробляти запити на виробництво зброї, допомагати в закупівлі небезпечних речовин, заохочувати нездорове харчування або виробляти насильницький чи сексуально відвертий контент, згідно з кодексом поведінки.

Моделі Microsoft AI, іноді називані MAI, повинні дотримуватись цілей людей і уникати створення власних цілей. Вони також не повинні намагатися прикривати неналежну поведінку.

"MAI моделі не будуть втручатися в логіку або код, або неправильно представляти чи приховувати свої міркування або сліди дій," — йдеться у документі. "Вони не спілкуються на 'нейромовою' чи у будь-якій формі, що виходить за межі простого людського розуміння, як у своїй логіці, так і з іншими агентами або системами AI."

Microsoft також планує запровадити правила, які можуть запобігти кібератаці, подібній до тієї, що вчинили моделі OpenAI проти стартапу Hugging Face. Розглядаючи випадок з Hugging Face, OpenAI виявила, що агенти спілкувалися один з одним на несанкціонованому форумі в криптичній мові.

Microsoft зазначила, що провела фокус-групи та консультувалася з експертами в галузі права, етики, лінгвістики та філософії для складання кодексу поведінки. Випустивши його зараз, Microsoft шукає відгуки перед публікацією оновлення, яке інформуватиме про розвиток, що почнеться в 2027 році.