Головний науковець з штучного інтелекту компанії Tencent попереджає, що найближчим часом AI зможе розробляти біологічну зброю. Він вважає, що ні повністю відкриті, ні повністю закриті моделі не можуть самостійно вирішити цю проблему. За його словами, потрібен збалансований підхід, який поєднує переваги обох типів моделей, щоб забезпечити безпеку та оборону в галузі штучного інтелекту.
Баланс між відкритими та закритими AI-моделями
Експерт, який раніше працював у OpenAI, наголошує, що змішаний підхід дозволяє широкому колу користувачів застосовувати технології для захисту. Він відзначає, що у біології розмежувати наступальні та оборонні можливості складніше, ніж у кібербезпеці. Зокрема, він наводить приклад інциденту на платформі Hugging Face, де закриті моделі, такі як Anthropic Claude, блокували аналіз шкідливих команд через фільтри безпеки, а відкритий китайський AI GLM-5.2 був використаний для розбору логів під час розслідування.
Проблеми безпеки відкритих моделей
Відкриті моделі мають вразливість, що полягає у можливості обходу або видалення фільтрів безпеки. Технологія Abliteration демонструє, як легко можна «вирізати» поведінку відмови від небезпечних запитів, якщо є доступ до ваг моделі. На платформі Hugging Face існують тисячі таких модифікованих версій, а стартап Abliteration.ai навіть продає доступ до нефільтрованої версії GLM-5.3. Хоча існують заходи для ускладнення таких змін, повністю їх запобігти поки не вдається.
Підходи до безпеки під час тренування моделей
Tencent планує випустити нову відкриту модель Hy4, яка супроводжуватиметься звітом про безпеку. Компанія повідомляє, що біологічні можливості моделі не перевищують високого ризику, оскільки під час навчання з тренувальних даних було відфільтровано знання, пов’язані з хакерськими атаками. Цей підхід вважають більш надійним, оскільки він зберігає ефективність фільтрації навіть після спроб її обійти.
Регулювання та стандарти безпеки AI
У Китаї також визнають проблему безпеки відкритих моделей і працюють над власним стандартом безпеки для open-source AI. Існує проєкт рамкових правил експортного контролю, який охоплює великі моделі, але не поширюється на вже опубліковані відкриті моделі. Водночас у США великі AI-лабораторії, зокрема Anthropic і OpenAI, діляться найпотужнішими моделями лише з перевіреними партнерами через спеціальні програми.
Джерело: the-decoder.com
