NTI та Concordia AI створили Міжнародну робочу групу для покращення оцінок біологічних можливостей

NTI | bio та Concordia AI, за технічної підтримки SecureBio, запустили Технічну робочу групу AIxBio з практики оцінювання. Робоча група об'єднає експертів з організацій з Китаю, Європейського Союзу, Великої Британії та Сполучених Штатів, які займаються оцінкою біологічних можливостей систем штучного інтелекту.

Ці оцінки дедалі частіше впливають на управління ризиками в передовій сфері штучного інтелекту, адже визначають можливості, які можуть знизити бар'єри для біологічного зловживання. Розробники моделей використовують отримані результати, щоб вирішити, чи посилювати заходи безпеки, обмежувати доступ, збільшувати моніторинг чи змінювати плани розгортання.

Коли ці оцінки широко використовуються, результати, отримані в одних умовах, можуть впливати на оцінку ризиків і відповідні рішення в інших, навіть якщо методи оцінювання та звітності відрізняються. Результати не лише відображають можливості оцінюваної моделі, а й те, як ці можливості тестуються. Без узгодженого звітування відмінності, які виникають через конфігурацію системи або дизайн оцінювання, можуть бути помилково приписані самій моделі.

Робоча група порівняє опубліковані підходи до оцінювання в різних юрисдикціях та інституційних умовах, щоб встановити загальну технічну базу для розробки оцінок та інтерпретації їх результатів. На основі цього аналізу буде розроблено спільну термінологію та мінімальний базовий звіт про результати оцінки. Її робота:

докладно розгляне, що саме вимірюють оцінки біологічних можливостей та як їхній дизайн пов'язаний з моделями загрози, з якими вони повинні відповідати. Також група має на меті визначити умови, при яких результати можна порівнювати між системами та умовами, а також розмежувати висновки, які підтверджують можливості, що тестуються, та ті, що стосуються біологічного ризику.

Методологічні висновки, добровільні звітні конвенції та пріоритети досліджень будуть опубліковані для підтримки більш узгодженого тлумачення та використання доказів оцінювання розробниками штучного інтелекту, урядами та сторонніми оцінювачами.

Зібравши експертів, які займаються цією роботою, група розгляне дизайн оцінювання та порівнянність, що доповнить діяльність Робочої групи Форуму AIxBio, присвячену горизонту, оцінці ризиків і оцінюванням.

До речі, організації та особи, які працюють над оцінкою біологічних можливостей, можуть звертатися до Helia Samani для обговорення участі чи обміну пов'язаними матеріалами.