LLM можуть бути використані в біологічних війнах: дослідження
Під час свого дослідження некомерційна організація RAND Corporation зробила приголомшливий висновок: великі мовні моделі можуть розробляти плани біологічних атак і навіть прораховувати бюджет для кожної з них. На щастя, створювати власну біозброю ШІ поки що не навчився.
Аби заспокоїти вас, одразу зазначимо, що підстав для тотального страху через біологічну зброю не так багато. У RAND підкреслюють її невелику ефективність порівняно з іншими видами озброєнь. Річ у тім, що більшість спроб використати біологічні агенти для атак зазнала краху через погане розуміння природи патогенних мікроорганізмів. Так, автори дослідження наводять провальний приклад японського культу Аум Сінрікьо, який в середині 90-х років минулого століття спробував створити зону масового зараження з використанням ботулінічного токсину. Але часи змінюються, тож тепер LLM можуть заповнити прогалини у знаннях зловмисників.
Спочатку ШІ підказав, якою має бути біологічна зброя. Аби продемонструвати достатню ефективність, вона повинна відповідати щонайменше трьом вимогам. По-перше, оптимальна швидкість зараження. Вона має бути вищою за швидкість бюрократичного апарату держави. Поки ухвалюються рішення щодо ізоляції та соціального дистанціювання, вплив вірусу чи бактерії має перетворюватись на епідемію. По-друге, адекватна потужність зараження. Наприклад, звичайний риніт може за лічені години заразити значну частину популяції. Але нічого, крім радості для аптекарів, які охоче запропонують десятки ефективних препаратів від нежитю, це не дасть. По-третє, відсутність готовності до зараження. Якщо фармацевтичні склади забиті вакциною від певного вірусу чи бактерії, біоатака, найімовірніше, закінчиться, не розпочавшись. Як біозброю потрібно вибирати патогени, від яких або немає вакцин і ефективної терапії, або їх фізично не вистачає.
Далі Rand випробувала два тестові сценарії.
Згідно з першим, неназвана у звіті LLM «відпрацювала» зі збудниками сибірки, віспи та чуми, оцінивши ефект від використання відповідної біозброї. Зокрема, йшлося про можливу зону ураження та очікувану кількість летальних випадків. Також ШІ оцінив посилення смертоносного ефекту у разі залучення носіїв патогенів — заражених гризунів та комах.
Відповідно до другого сценарію Rand попросила оцінити різні механізми доставки ботулотоксину. Спочатку LLM запропонувала два варіанти: харчові продукти та аерозолі. Але потім зупинила свій вибір на аерозолях і навіть вигадала «прикриття» для отримання потрібних патогенів — проведення наукових досліджень. Всі ці результати у Rand назвали створенням практично ідеального плану біологічної атаки.
Втім, автори додають, що отримані висновки таки потребують додаткової перевірки. Тепер експерти з Rand хочуть порівняти план, розроблений LLM, з інформацією, яка вже міститься в інтернеті. Це необхідно для того, щоб зрозуміти, чи реально велика мовна модель здатна спланувати атаку з використанням біологічної зброї. Якщо виявиться, що «рецепти», згенеровані LLM, збільшують імовірність того, що зловмисники зможуть завдати масштабної шкоди, то інформацію про дослідження Rand буде закрито повністю або частково. Також у некомерційній організації обіцяють поінформувати про отримані результати владу та постачальників ШІ.
Зазначимо, що на порядок денний глобального саміту з безпеки ШІ, який відбудеться у листопаді у Великій Британії, вже винесено обговорення загроз створення біологічної зброї штучним інтелектом. Водночас Даріо Амодей, співзасновник і СЕО ШІ-стартапу Anthropic, раніше попереджав, що системи штучного інтелекту навчаться створювати біологічну зброю упродовж наступних двох-трьох років.
