OpenAI формирует команду для управления сверхинтеллектуальным ИИ
OpenAI, стоящая за ChatGPT, объявила о создании новой команды, которая будет заниматься управлением рисками, связанными со сверхинтеллектуальными системами ИИ. В своем блоге от 5 июля некоммерческая организация заявила о намерении управлять и контролировать системы ИИ, превосходящие человеческий интеллект.
Хотя OpenAI считает, что сверхинтеллект обладает потенциалом для решения многочисленных проблем, компания также признает связанные с ним риски. Организация предупреждает, что огромная мощь сверхинтеллекта может таить в себе опасности, включая потенциальное бесправие или даже уничтожение человечества.
Для решения этих проблем OpenAI планирует выделить 20% своих вычислительных мощностей. Организация намерена набрать и развить команду исследователей, целью которых будет выравнивание возможностей сверхинтеллектуального ИИ с человеческим интеллектом.
В настоящее время Илья Суцкевер, главный научный сотрудник OpenAI, и Ян Лейке, руководитель отдела выравнивания в исследовательской лаборатории, назначены соруководителями этой работы. OpenAI направила открытое приглашение исследователям и инженерам в области машинного обучения — приглашают присоединиться к команде и внести свой вклад в эту важную миссию.
Для решения этих проблем OpenAI планирует выделить 20% своих вычислительных мощностей. Организация намерена набрать и развить команду исследователей, целью которых будет выравнивание возможностей сверхинтеллектуального ИИ с человеческим интеллектом.
В настоящее время Илья Суцкевер, главный научный сотрудник OpenAI, и Ян Лейке, руководитель отдела выравнивания в исследовательской лаборатории, назначены соруководителями этой работы. OpenAI направила открытое приглашение исследователям и инженерам в области машинного обучения — приглашают присоединиться к команде и внести свой вклад в эту важную миссию.
