Рискованные ИИ-инструменты могут быть запрещены в Австралии
В ответ на глобальную обеспокоенность, связанную с быстрым развитием искусственного интеллекта, правительство Австралии начало срочные консультации, чтобы определить, следует ли запретить любые рискованные ИИ-приложения. Эта инициатива следует за аналогичными действиями, предпринятыми в США, Европейском Союзе и Китае, чтобы понять и потенциально уменьшить риски, связанные с ИИ.
1 июня министр промышленности и науки Эд Хусик объявил о выпуске двух документов: дискуссионной презентации "Безопасный и ответственный ИИ в Австралии" и отчета Национального научно-технического совета о генеративном ИИ. Правительственные консультации продлятся до 26 июля.
Цель консультаций — собрать аргументы для поддержки безопасного и ответственного использования ИИ. Ключевым вопросом консультаций является то, следует ли полностью запретить какие-либо рискованные ИИ-инструменты, и как они будут выявляться.
В презентации приводится пример матрицы рисков для моделей ИИ, в которой ИИ в самоуправляемых автомобилях отнесен к категории "высокого риска", а генеративный ИИ-инструмент (используемый, например, для таких задач, как создание медицинских карт пациентов), отнесен к категории "среднего риска".
В документе признается как положительное применение ИИ в медицинской, инженерной и юридической отраслях, так и его вред, например, инструменты deepfake, создание фейковых новостей и случаи, когда ИИ-боты поощряли членовредительство. Также рассматриваются такие проблемы, как предвзятость моделей ИИ или когда ИИ выдает ложную информацию.
Ссылаясь на "низкий уровень общественного доверия", документ предполагает, что распространение ИИ в Австралии в настоящее время "относительно невелико". Так же в документе говорится о регулировании ИИ в других юрисдикциях и временном запрете ChatGPT в Италии.
Австралия обладает некоторыми сильными сторонами в области ИИ, в частности в робототехнике и компьютерном зрении. Однако, по оценке Национального совета по науке и технологиям, ее основной фундаментальный потенциал в больших языковых моделях и смежных областях относительно слаб. В отчете также упоминается риск, связанный с концентрацией ресурсов генеративного ИИ в нескольких крупных технологических компаниях, базирующихся преимущественно в США.
Цель консультаций — собрать аргументы для поддержки безопасного и ответственного использования ИИ. Ключевым вопросом консультаций является то, следует ли полностью запретить какие-либо рискованные ИИ-инструменты, и как они будут выявляться.
В презентации приводится пример матрицы рисков для моделей ИИ, в которой ИИ в самоуправляемых автомобилях отнесен к категории "высокого риска", а генеративный ИИ-инструмент (используемый, например, для таких задач, как создание медицинских карт пациентов), отнесен к категории "среднего риска".
В документе признается как положительное применение ИИ в медицинской, инженерной и юридической отраслях, так и его вред, например, инструменты deepfake, создание фейковых новостей и случаи, когда ИИ-боты поощряли членовредительство. Также рассматриваются такие проблемы, как предвзятость моделей ИИ или когда ИИ выдает ложную информацию.
Ссылаясь на "низкий уровень общественного доверия", документ предполагает, что распространение ИИ в Австралии в настоящее время "относительно невелико". Так же в документе говорится о регулировании ИИ в других юрисдикциях и временном запрете ChatGPT в Италии.
Австралия обладает некоторыми сильными сторонами в области ИИ, в частности в робототехнике и компьютерном зрении. Однако, по оценке Национального совета по науке и технологиям, ее основной фундаментальный потенциал в больших языковых моделях и смежных областях относительно слаб. В отчете также упоминается риск, связанный с концентрацией ресурсов генеративного ИИ в нескольких крупных технологических компаниях, базирующихся преимущественно в США.
