ИИ станет умнее человека, но мы не потеряем над ним контроль
ИИ действительно станет умнее человека? Не исключено, но эксперт уверен, что управлять технологией мы все равно сможем.
Ян ЛеКун, ведущий исследователь искусственного интеллекта в Meta, поделился обстоятельным анализом угроз ИИ и своим взглядом на будущее индустрии.
В своем интервью для Financial Times ЛеКун выступил против поспешного и непродуманного регулирования ИИ-сектора. По его мнению, такие действия сделают ситуацию с железным разумом только хуже, а доминирование крупных технологических корпораций на рынке только усилится. Помимо этого, регулирование способно навредить здоровой конкуренции.
«Регулирование научно-исследовательских и опытно-конструкторских проектов в области ИИ невероятно контрпродуктивно», — поделился ЛеКун, один из ведущих мировых исследователей ИИ в области нейронаук. Комментируя инициативу британского правительства по усилению безопасности искусственного интеллекта — конференцию в Блетчли Парке, которая состоится в ноябре, Ян отметил: «Они (правительство) намерены контролировать ИИ под предлогом обеспечения безопасности технологии».
Кроме того, исследователь убежден, что крупные компании страдают от мании величия. Корпораты утверждают, что разработку и развитие ИИ-сферы можно доверять только лишь им. Подобный подход ученый считает невероятно высокомерным, а сам придерживается прямо противоположной точки зрения. По его словам, модели с открытым исходным кодом стимулируют конкуренцию и помогают большему числу желающих строить и использовать системы искусственного интеллекта.
Терминатора не будет?
Опасения касательно возникновения новых рисков дезинформации и призывы к сдерживанию темпов ИИ-развития ЛеКун тоже считает необоснованными. То же самое говорили и о Всемирной паутине, когда интернет только начинал распространяться среди населения. В итоге, технология теперь процветает благодаря своей децентрализованной природе.
«И с искусственным интеллектом будет точно так же», — считает Ян. Однако двое его коллег, с которыми он в 2018 году получил премию Тьюринга по информатике — Джеффри Хинтон и Йошуа Бенгио — не разделяют его взглядов.
ЛеКуна, в отличие от собратьев-ученых, не беспокоят потенциальные риски ИИ. Даже угрозы экзистенциального характера, о которых говорил, в частности Илон Маск, не находят отклика у исследователя. Ян также не согласен с возможным сценарием а-ля «Терминатор», в рамках которого более разумное создание захочет подчинить себе остальных. И хотя специалист считает, что ИИ будет совершенствоваться во многих сферах человеческой деятельности, все же он уверен, что вместо создания кризиса в соответствующих областях технология послужит стимулом для второй эпохи Возрождения в процессе обучения.
«Интеллект не имеет ничего общего с жаждой господства. Даже для людей все обстоит иначе, — отметил он. — Если бы интеллектуалы стремились властвовать над другими, тогда Альберт Эйнштейн и прочие ученые должны были бы быть и богатыми, и влиятельными, а они не обладали ни властью, ни состоянием».
Вместе с тем он утверждает, что отдельные исследователи плохо разбираются в вопросах мироустройства и не приспособлены к планированию.
«Человечество не располагает полностью автономными, самодвижущимися автомобилями, которые могли бы обучиться вождению примерно за 20 часов практики, что под силу 17-летнему подростку», — говорит эксперт.
По мнению Яна, прежде чем системы ИИ приблизятся к уровню интеллекта человека, потребуется еще несколько принципиальных прорывов. Но даже если железный разум обретет человеческий ум, им можно будет управлять. Для этого будет использован "моральный компас", зашитый в подсистемах.
«Споры об экзистенциальных рисках крайне несвоевременны, по крайней мере, до тех пор, пока мы не разработаем систему, способную конкурировать хотя бы с кошкой в плане обучаемости, а такой технологией мы еще не обладаем», — отметил ЛеКун. К тому же исследователь уверен, что в будущем наше взаимодействие с цифровым миром будет протекать при посредничестве систем искусственного интеллекта.
А значит поисковики уйдут в прошлое.
Президент подразделения Google в регионе EMEA Мэтт Бриттин придерживается схожего мнения. Он считает, что технологии ИИ являются исключительно важными, поэтому нельзя допускать стагнации и отказываться от их применения. «ИИ способен совершить колоссальный прорыв во всех отраслях экономики», — однажды поделился он с BBC.
Глобальный саммит по безопасности искусственного интеллекта состоится в Великобритании 27–28 ноября.
А прежде мы в GN Crypto освещали личность Чарли Мангера, инвестиционного гения, который не признает ИИ.
