Сэм Альтман об опасностях AI на Future of AI
Сэм Альтман выступил на саммите Future of AI. СЕО OpenAI умудрился одновременно назвать AI способом искоренить бедность в глобальном масштабе и покончить с человечеством раз и навсегда.
Весь разговор вращался вокруг будущего искусственного интеллекта и его потенциального влияния на общество. Сэм поделился своими мыслями и опытом поездок в разные части мира, где он общался с пользователями и разработчиками.
“Есть множество конкретных отзывов, более 100 страниц заметок о встречах с разработчиками, где обсуждались жалобы и ожидания людей от нашего продукта”, – рассказал он.
Сэм Альтман выступил на Future of AI Summit Источник: Bloomberg
Альтман также был участником группы экспертов в сфере AI, которые в конце весны встретились с президентом Джо Байденом в Сан-Франциско. Также СЕО OpenAI посетил Вашингтон для встречи с сенаторами.
Если эта технология пойдет не так, она может пойти совсем не так, – откровенно предупредил их Альтман.
На саммите Future of AI Сэм обсуждал потенциал искусственного интеллекта в образовании, медицине и научном прогрессе. Он также признал риски расширения AI, но и подчеркнул важность человеческой интуиции для избежания худших сценариев. Мы имеем дело с экспоненциальным технологическим ростом, поэтому есть необходимость постоянно оценивать “узкие места” и вовремя нивелировать опасные тенденции.
Я думаю, что было бы хорошо покончить с бедностью. Но нам понадобится управление рисками, чтобы добраться туда, – говорит Альтман.
Для обеспечения скоординированного реагирования на риски, связанные с AI, Сэм и его компания настаивают на скорейшем создании правового поля для стремительно развивающейся отрасли. Другое дело – найти баланс между законодательными ограничениями и инновациями. Альтман считает, что небольшие стартапы и проекты с открытым исходным кодом не должны быть перегружены чрезмерным регулированием. Сэм поддерживает идею внедрения систем сертификации и внешних аудиторских проверок в процесс разработки искусственного интеллекта с целью обеспечения безопасности и ответственности.
Заочно отвечая на опасения Илона Маска по поводу контроля со стороны Microsoft, СЕО OpenAI говорит, что их партнерство в первую очередь подразумевает доступ к центру обработки данных Microsoft, а не финансовый контроль.
Они могут разорвать договор и забрать наш доступ к центру данных, – поясняет Сэм.
Альтман признает, что ни одно взаимодействие не обходится без проблем, но описывает сотрудничество с Биллом Гейтсом как лучшее из всех, в которых он участвовал.
Отметим, что ранее Gagarin News писал, что единственный и наибольший риск AI заключается в том, что Китай завоюет глобальное господство AI, а Соединенные Штаты и Запад – нет.
