📣 Некоторые сотрудники OpenAI выступили против компании
опубликовано 4 июн 2024
Группа бывших и нынешних сотрудников OpenAI обвинила компанию в культуре безрассудства и секретности при создании передовых технологий, а особенно AGI (общий искусственный интеллект). Они считают, что компания поставила первенство и финансовую выгоду выше безопасности, сосредоточившись на создании все более мощных систем.
OpenAI очень воодушевлена созданием AGI, и они безрассудно стремятся быть первыми в этом,— заявил бывший исследователь отдела управления OpenAI Дэниел Кокотайло.
Сотрудники также обвиняют OpenAI в постоянном давлении на работников с призывами не высказывать собственные опасения по поводу новых технологий как публично, так и за закрытой дверью. В связи с этим они опубликовали открытое письмо, в котором призвали ведущие компании повысить прозрачность и защиту информаторов.
Мы также понимаем серьезные риски, которые несут эти технологии. Они варьируются от дальнейшего закрепления существующих неравенств, манипуляций и дезинформации до потери контроля над автономными системами искусственного интеллекта, что потенциально может привести к вымиранию человечества,— говорится в письме.
Среди подписавших преимущественно бывшие работники OpenAI, включая инженера-исследователя Уильяма Сондерса и несколько анонимных подписантов, а еще некоторые сотрудники Google DeepMind. Представители OpenAI предсказуемо прокомментировали эту инициативу, заявив о постоянном диалоге с правительствами и общественностью.
Когда я устроился работать в OpenAI, я не подписывался на позицию: “Давайте выпустим вещи в мир, посмотрим, что произойдет, и исправим их потом”,— сказал Сондерс.
Стоит отметить, что в прошлом месяце OpenAI покинули два старших исследователя: Илья Суцкевер и Ян Лейке. Они оба высказали опасения по поводу потенциальных рисков мощного искусственного интеллекта и вопроса безопасности в компании. Тем не менее они пока официально не присоединились к этой инициативе.
Больше актуальных новостей
