Ризиковані ШІ-інструменти можуть бути заборонені в Австралії
У відповідь на глобальну стурбованість, пов'язану зі стрімким розвитком штучного інтелекту, уряд Австралії розпочав термінові консультації, щоб визначити, чи слід заборонити ризиковані ШІ-застосунки. Ця ініціатива йде за аналогічними діями, здійсненими в США, Європейському Союзі та Китаї, щоб зрозуміти і потенційно зменшити ризики, пов'язані зі ШІ.
1 червня міністр промисловості та науки Ед Хусік оголосив про випуск двох документів: дискусійної презентації "Безпечний і відповідальний ШІ в Австралії" і звіту Національної науково-технічної ради про генеративний ШІ. Урядові консультації триватимуть до 26 липня.
Мета консультацій — зібрати аргументи для підтримки безпечного та відповідального використання ШІ. Ключовим питанням консультацій є те, чи слід повністю заборонити будь-які ризиковані ШІ-інструменти і як вони будуть виявлятися.
У презентації наводиться приклад матриці ризиків для моделей ШІ, в якій ШІ в самокерованих автомобілях віднесено до категорії "високого ризику", а генеративний ШІ-інструмент (який використовують, наприклад, для таких завдань, як створення медичних карт пацієнтів) віднесено до категорії "середнього ризику".
У документі визнається як позитивне застосування ШІ в медичній, інженерній та юридичній галузях, так і його шкода, наприклад, інструменти deepfake, створення фейкових новин і випадки, коли ШІ-боти заохочували до калічення. Також розглядаються такі проблеми, як упередженість моделей ШІ або неправдивість інформації, яку видавав ШІ.
Покликаючись на низький рівень суспільної довіри, документ припускає, що поширення ШІ в Австралії наразі відносно незначне. Так само в документі йдеться про регулювання ШІ в інших юрисдикціях і тимчасову заборону ChatGPT в Італії.
Австралія має деякі сильні сторони в галузі ШІ, зокрема в робототехніці та комп'ютерному полі. Однак, за оцінкою Національної ради з науки і технологій, її основний фундаментальний потенціал у великих мовних моделях і суміжних галузях відносно слабкий. У звіті також згадується ризик, пов'язаний із концентрацією ресурсів генеративного ШІ в кількох великих технологічних компаніях, що базуються переважно в США.
Мета консультацій — зібрати аргументи для підтримки безпечного та відповідального використання ШІ. Ключовим питанням консультацій є те, чи слід повністю заборонити будь-які ризиковані ШІ-інструменти і як вони будуть виявлятися.
У презентації наводиться приклад матриці ризиків для моделей ШІ, в якій ШІ в самокерованих автомобілях віднесено до категорії "високого ризику", а генеративний ШІ-інструмент (який використовують, наприклад, для таких завдань, як створення медичних карт пацієнтів) віднесено до категорії "середнього ризику".
У документі визнається як позитивне застосування ШІ в медичній, інженерній та юридичній галузях, так і його шкода, наприклад, інструменти deepfake, створення фейкових новин і випадки, коли ШІ-боти заохочували до калічення. Також розглядаються такі проблеми, як упередженість моделей ШІ або неправдивість інформації, яку видавав ШІ.
Покликаючись на низький рівень суспільної довіри, документ припускає, що поширення ШІ в Австралії наразі відносно незначне. Так само в документі йдеться про регулювання ШІ в інших юрисдикціях і тимчасову заборону ChatGPT в Італії.
Австралія має деякі сильні сторони в галузі ШІ, зокрема в робототехніці та комп'ютерному полі. Однак, за оцінкою Національної ради з науки і технологій, її основний фундаментальний потенціал у великих мовних моделях і суміжних галузях відносно слабкий. У звіті також згадується ризик, пов'язаний із концентрацією ресурсів генеративного ШІ в кількох великих технологічних компаніях, що базуються переважно в США.
