🔥 Науковці NTU зняли цензуру чат-ботів завдяки іншому ШІ
опубліковано 28 груд 2023
Дослідники з Наньянського технологічного університету Сингапуру (NTU Singapore) виявили спосіб подолання цензури деяких чат-ботів на основі штучного інтелекту, таких як ChatGPT і Google Bard. Для цього вони створили власний ШІ-застосунок, який генерує підказки, що й дозволяють обходити обмеження.
Для навчання власного чат-бота розробники використовували спеціальні дані, які раніше довели свою ефективність в обході цензури. Результати дослідження вони передали розробникам компаній, щоб ті змогли закрити виявлені слабкі місця і посилити захист від потенційного неправомірного використання.