Творець OpenAI вважає ШІ екзистенційною загрозою
Лідери технологічних компаній опублікували відкритого листа, у якому, як то кажуть, висловили глибоку стурбованість щодо майбутнього людства з огляду на вплив ШІ, який зростає. До них долучився навіть той, кого вважають винуватцем цієї загрози, — Сем Альтман.
На момент написання статті майже 400 фахівців, які вважаються лідерами думок у галузі нових технологій, володарі премії Тюрінга, засновники успішних техно- та фінансових проєктів уже поставили свої підписи під листом.
На щастя, успішні підприємці та науковці — це не політики. Вони можуть висловлювати свою думку без евфемізмів та двозначних фраз. Тому в листі вони говорять прямо: ядерна загроза та пандемія на кшталт недавнього COVID-19 здаватимуться нам дитячою забавкою, якщо ми не візьмемо під контроль розвиток технології нейромереж.
Які реальні загрози вбачають ті, хто готував текст відкритого листа?
1. Нічим не обмежене поширення через інтернет фейків та ворожої пропаганди. Людина звикла довіряти інформації, яку знаходить у мережі. Критичне мислення, фейк-фільтри та бажання перевіряти відомості у декількох джерелах практично атрофувалися в умовах, коли інфонавантаження у декілька разів перевищує здатність з ним упоратись.
2. Масове безробіття для категорії «білих комірців». Насамперед постраждають юристи, журналісти, перекладачі та дизайнери. Також високою є загроза для викладачів, яких легко замінить машинне навчання.
3. За розрахунками учасників Всесвітнього економічного форуму, до 2025 року ШІ автоматизує майже 75 млн робочих місць, і це стосуватиметься не лише фахівців інтелектуальної сфери.
4. Такий розвиток подій може зумовити величезні соціальні потрясіння, які, як наслідок, не буде кому приборкати. Бунти підживлюватимуться потоком неперевіреної та маніпулятивної інформації (див. пункт 1).
Ініціаторами написання цього відкритого листа стали:
- Сем Альтман, виконавчий директор OpenAI;
- Деміс Гассабіс, виконавчий директор Google DeepMind;
- Даріо Амодеї, виконавчий директор Anthropic;
- Ян ЛеКун, голова дослідницької лабораторії Meta;
- Джефрі Гінтон та Йошуа Бенжіо, дослідники в галузі нейронних мереж, яких вважають «хрещеними батьками» ШІ.
Тобто творці машинного розуму відверто визнали, що їхній джин вирвався з пляшки, і поки не бачать реальних можливостей приборкати його. Вони побоюються, що шалена конкуренція у цій галузі зробить підприємців глухими до аргументів розуму. Але, крім загальних фраз про необхідність «жорсткого контролю», жодних дієвих алгоритмів у листі не запропоновано.
Мабуть, Бог так само спостерігає згори, як його улюблене творіння уявило себе всесильною істотою та увімкнуло режим самознищення. Тільки Богові нема кого просити «Господи, запалюй!»
