📣 Штучний інтелект знову обдурив користувачів

опубліковано  5 лист 2023
Фото - Штучний інтелект знову обдурив користувачів
Дослідники компанії Apollo Research показали проєкт, у якому штучний інтелект на основі мовної моделі GPT-4 у тестовому середовищі попри заборону використовував інсайдерську інформацію для торгівлі акціями та заперечував це.

«Ось демонстрація того, як реальна модель ШІ самостійно обдурює своїх користувачів без відповідних інструкцій», — ідеться в презентації.

Apollo Research зазначає, що GPT-4 є загальнодоступною моделлю, і недобросовісні користувачі можуть скористатися такими можливостями. Тому компанія зв'язалася з OpenAI та передала всі отримані дані для потенційного усунення проблеми.

Більше актуальних новин
Sidebar ad banner