📣 Искусственный интеллект снова обманул пользователей
опубликовано 5 нояб 2023
Исследователи компании Apollo Research показали проект, в котором
искусственный интеллект на основе языковой модели GPT-4 в тестовой
среде, несмотря на запрет, использовал инсайдерскую информацию для
торговли акциями и отрицал это.
«Вот
демонстрация того, как реальная модель ИИ самостоятельно обманывает
своих пользователей без соответствующих инструкций», - говорится в
презентации.
Apollo
Research отмечает, что GPT-4 является общедоступной моделью, и
недобросовестные пользователи могут воспользоваться такими
возможностями. Поэтому компания связалась с OpenAI и передала все
полученные данные для потенциального решения проблемы.