ШІ може пришвидшити створення біологічної зброї: техногіганти попереджають про ризики

Створення смертоносних вірусів може перетворитися на декілька кліків у чат-боті

Керівники провідних ШІ-компаній, включаючи OpenAI, Anthropic та Google DeepMind, підписали відкритий лист до Конгресу США з вимогою ухвалити закони для суворого контролю за синтезом ДНК, щоб запобігти створенню біологічної зброї за допомогою нейромереж.

Про це пише РБК-Україна з посиланням на текст документа.

Більше цікавого: ШІ навчився передбачати погляд людини: як працює 3D-алгоритм для AR-окулярів

Нейромережі навчилися модифікувати послідовності небезпечних патогенів так, що автоматичні системи безпеки біотех-лабораторій перестають їх розпізнавати.

Чому ШІ спрощує створення вірусів?

Сьогодні процес створення ДНК автоматизований: десятки компаній по всьому світу використовують комерційні синтезатори, щоб буквально "друкувати" кастомні генетичні послідовності для медичних досліджень. Проте далеко не всі постачальники ретельно перевіряють клієнтів та замовлення.

Ще у 2017 році дослідники змогли поштою замовити ДНК та відтворити вимерлий вірус кінської віспи, який є близьким родичем смертоносної для людини натуральної віспи. З того часу технологія синтезу значно здешевшала.

Сучасні великі мовні моделі та інструменти ШІ для дизайну білків стали потужними каталізаторами цієї загрози.

Як це можуть використати зловмисники?

Пошук лазівок: ШІ здатний миттєво підказати користувачеві, до яких саме постачальників ДНК варто звернутися, щоб уникнути перевірок.

Маскування замовлень: нейромережі можуть перефразувати чи змінити структуру генетичного замовлення так, щоб захисний софт лабораторії не помітив токсичності чи вірусної природи коду.

Генерація нових загроз: дослідження показують, що ШІ-моделі для проєктування білків здатні створювати абсолютно нові небезпечні послідовності, які мають структуру відомих токсинів, однак повністю ігноруються стандартним фільтрувальним ПЗ.

Позиція техногігантів

Ініціаторами відкритого листа виступили Інститут прогресу (Institute for Progress) та Фонд американських інновацій (Foundation for American Innovation). Серед підписантів - Деміс Хассабіс (Google DeepMind), Сем Альтман (OpenAI), Даріо Амодеї (Anthropic) та Мустафа Сулейман (Microsoft AI), а також низка провідних науковців.

Вони закликають Конгрес зобов'язати всіх постачальників синтетичної ДНК та РНК проводити обов'язковий скринінг клієнтів та замовлень на наявність небезпечних патогенів.

Наразі у США діють лише рекомендації для установ із федеральним фінансуванням, а загальний ринок спирається на добровільний аудит у межах Міжнародного консорціуму із синтезу генів.

У Сенаті вже розглядається двопартійний законопроєкт, який має запровадити таку обов'язкову перевірку на законодавчому рівні.

Чому потрібен багаторівневий захист?

Експерти з біобезпеки наголошують, що контроль лише на етапі друку ДНК не є панацеєю, оскільки фільтри автоматичних систем захисту недосконалі.

ШІ-лабораторії повинні впроваджувати власні внутрішні обмеження: моделі мають бути спроєктовані так, щоб блокувати будь-які запити користувачів, пов'язані з розробкою токсинів або патогенів, здатних спровокувати глобальну пандемію.

Читайте більше цікавого:

• ШІ почав створювати нові матеріали для чипів: відкрито сполуки, яких не існувало в природі
• Світ може втратити половину населення: вчені знайшли межу виживання людства