📣 Деякі співробітники OpenAI виступили проти компанії
опубліковано 4 черв 2024
Група колишніх і нинішніх співробітників OpenAI звинуватила компанію в культурі нерозсудливості і секретності при створенні передових технологій, а особливо AGI (загального штучного інтелекту). Вони вважають, що компанія поставила першість і фінансову вигоду вище за безпеку, зосередившись на створенні дедалі потужніших систем.
OpenAI дуже натхненна створенням AGI, і вони безрозсудно прагнуть бути першими в цьому,— зазначив колишній дослідник відділу управління OpenAI Деніел Кокотайло.
Співробітники також звинувачують OpenAI в постійному тиску на працівників із закликами не висловлювати власні побоювання щодо нових технологій як публічно, так і за зачиненими дверима. У зв'язку з цим вони опублікували відкритий лист, у якому закликали провідні компанії підвищити прозорість і захист інформаторів.
Ми також розуміємо серйозні ризики, які несуть ці технології. Вони варіюються від подальшого закріплення наявних нерівностей, маніпуляцій та дезінформації до втрати контролю над автономними системами штучного інтелекту, що потенційно може призвести до вимирання людства,—зазначено у листі.
Серед підписантів переважно колишні працівники OpenAI, включно з інженером-дослідником Вільямом Сондерсом і кількома анонімними підписантами, а ще окремі співробітники Google DeepMind. Представники OpenAI передбачувано прокоментували цю ініціативу, заявивши про постійний діалог з урядами та громадськістю.
Коли я влаштувався працювати в OpenAI, я не підписувався на позицію: “Давайте випустимо речі у світ, подивимося, що станеться, і виправимо їх потім”— зауважив Сондерс.
Варто зазначити, що минулого місяця OpenAI полишили два старші дослідники: Ілля Суцкевер і Ян Лейке. Вони обидва висловили побоювання з приводу потенційних ризиків потужного штучного інтелекту і питання безпеки в компанії. Проте вони поки що офіційно не приєдналися до цієї ініціативи.
Більше актуальних новин
Більше актуальних новин
