⚡ Технологические гиганты объединяются для защиты детей от ИИ
опубликовано 23 апр 2024
Компании OpenAI, Anthropic, Stability AI и другие разработчики искусственного интеллекта, включая Google, Meta и Microsoft, обязались увеличить меры безопасности для защиты детей при создании и развертывании моделей ИИ. Эта инициатива выдвинута некоммерческими организациями All Tech Is Human и Thorn, занимающимися вопросами защиты детей.
В рамках этих обязательств компании должны будут активно устранять риски, связанные с безопасностью детей, а также активнее проверять данные для обучения на наличие материалов о сексуальном насилии над детьми и другой потенциально опасной информации. Более того, разработчики пообещали усилить защиту моделей от злоупотребления.
Представители OpenAI отметили, что они уже давно предприняли ряд шагов в этом вопросе, включая ограничение моделей от создания нежелательного контента, установление возрастных ограничений на приложения и сотрудничество с международными организациями по защите детей. А теперь компания готовится к дополнительным изменениям.
Скорее всего, благодаря этому соглашению разработчики в очередной раз изменят настройки языковых и других моделей, что может повлиять на качество ответов по любым запросам, а не только ограничит выдачу запрещенных ответов.
Больше актуальных новостей
