⚡ Технологічні гіганти об'єднуються для захисту дітей від ШІ
опубліковано 23 квіт 2024
Компанії OpenAI, Anthropic, Stability AI та інші розробники штучного інтелекту, включно з Google, Meta і Microsoft, зобов'язалися посилити заходи безпеки для захисту дітей при створенні та розгортанні моделей ШІ. Цю ініціативу висунули некомерційні організації All Tech Is Human і Thorn, що опікуються питаннями захисту дітей.
У рамках цих зобов'язань компанії муситимуть активно усувати ризики, пов'язані з безпекою дітей, а також більш інтенсивно перевіряти дані для навчання на наявність матеріалів про сексуальне насильство над дітьми та іншої потенційно небезпечної інформації. Ба більше, розробники пообіцяли посилити захист від зловживання у власних моделей.
Представники OpenAI зазначили, що вже давно здійснили низку заходів стосовно цього питання, зокрема обмежили моделі від створення небажаного контенту, встановили вікові обмеження на застосунки та розпочали співпрацю з міжнародними організаціями з захисту прав дітей. А тепер компанія готується до додаткових змін.
Найімовірніше, завдяки цій угоді розробники вкотре змінять налаштування мовних та інших моделей, що може вплинути на якість відповідей за будь-якими запитами, а не просто обмежить видачу заборонених відповідей.
Більше актуальних новин
