DARPA розробить AI для ухвалення антикризових рішень
Управління перспективних дослідницьких проєктів Міністерства оборони США (Defense Advanced Research Projects Agency або DARPA) презентувало програму In the Moment (ITM). Її завдання полягає в поєднанні алгоритмів великої мовної моделі з людським мисленням у критичних ситуаціях, у яких немає однозначного рішення, за допомогою блокчейн технології.
Вже понад 50 років DARPA перебуває в авангарді новаторських розробок (R&D). Наразі — це лідер та спонсор усіх інноваційних досліджень у галузі AI. Управління було створено Пентагоном як відповідь на запуск першого штучного супутника Землі, який здійснив СРСР. Щорічний бюджет DARPA становить близько $3 млрд. Зазвичай організація концентрується на короткострокових програмних проєктах, які виконують спільними зусиллями компанії-підрядники.
Операції із залученням збройних сил передбачають широкий спектр можливих сценаріїв. Це і бойові дії, і медичне сортування, і надання допомоги населенню. Для всіх цих випадків (перелік можна продовжувати) у польових командирів мають бути готові швидкі та правильні відповіді. Складність у тому, що діяти шаблонно їм непросто, а часто й неможливо. Тому навіть досвідчені командири вдаються до різних варіантів тактики.
Міністерству оборони потрібні суворі, вимірювані та масштабовані підходи до оцінки та створення алгоритмічних систем для прийняття складних рішень, коли об’єктивна істина недоступна. Складні рішення — це ті, щодо яких особи, наділені відповідними повноваженнями, не мають однозначної думки. Правильної відповіді не існує, а невизначеність, брак часу та суперечливі цінності створюють серйозні проблеми виборупояснює DARPA амбітність поставленого завдання
При цьому впевненість у здібностях AI приймати обґрунтовані антикризові рішення стає критично важливою. Реалізувавши програму In the Moment, DARPA хоче зафіксувати та алгоритмізувати логіку та інтуїцію, якими керуються воєначальники у різних ситуаціях. В Управлінні вбачають необхідність виходу за межі використання лише навчальних даних для реалізації алгоритмів “винесення вердикту”, оскільки такі підходи можуть бути нестабільними та ненадійними.
Реалізувати ITM будуть кілька підрядників.
- Компанії Raytheon BBN Technologies та Soar Technology, Inc. Вони розроблять методи, за допомогою яких можна зібрати особистісні характеристики людей, здатних приймати рішення у кризових ситуаціях. Потім буде зроблено профайлінг та визначено основні методи, якими керуються уповноважені військовослужбовці. Kitware, Inc. і Parallax Inc. алгоритмізують отриману від Raytheon BBN Technologies та Soar Technology, Inc. інформацію.
- CACI International Inc. оцінить результати програми.
- Лабораторія прикладних досліджень розвідки та безпеки Університету Меріленду та Інститут оборонного аналізу впровадять розроблену модель та розглянуть етичні, правові та соціальні наслідки винаходу.
In the Moment спрямована на розвиток галузі AI і, зрештою, створення повністю автоматизованих систем прийняття рішень із можливістю обмеженого втручання людини. Залишилося сформувати у фахівців та суспільства довіру до алгоритмів штучного інтелекту, які самостійно робитимуть вибір у складних та неоднозначних ситуаціях.
