Гайд по терминам ИИ: понятный ИИ-словарь

Глубокое обучение — это отрасль машинного обучения, которая использует нейронные сети с несколькими слоями для работы с большими данными. Этот метод позволяет системам более точно выявлять сложные закономерности, что особенно полезно в таких задачах, как распознавание изображений и понимание речи.

Основное отличие глубокого обучения от машинного — это потребность в огромных объемах данных. Обычные алгоритмы машинного обучения могут работать с небольшими наборами данных, а глубокое обучение требует значительных объемов информации, чтобы выявлять паттерны автоматически, без участия человека в отборе признаков. Модели глубокого обучения обычно более сложные, что позволяет решать особенно специфические задачи.

Кроме того, глубокое обучение требует значительной вычислительной мощности, поэтому для его реализации обычно используются высокоэффективные устройства, такие как GPU.

Читать больше: ИИ и образование: решения будущего для персонализации обучения

В современных ИИ-моделях, таких как ChatGPT, используются многослойные сети трансформеров. Аббревиатура GPT расшифровывается как генеративный предобученный трансформер.

Трансформеры представляют собой уникальный вид нейронных сетей, предназначенный для обработки последовательных данных, таких как текст, и позволяют анализировать все части сразу.

Это делает возможным более глубокое понимание сложных взаимосвязей в данных по сравнению с традиционными моделями.

Одной из ключевых особенностей трансформеров является механизм внимания, позволяющий модели фокусироваться на значимых словах и их взаимосвязи. Система разбивает текст на фрагменты — токены, чтобы прогнозировать следующие слова.

Например, в предложении «Кот сидит на коврике» модель понимает связь между «кот» и «сидит», что помогает точнее передавать контекст.

Первое описание трансформеров было опубликовано Google в 2017 году в статье «Внимание — это всё, что вам нужно».

Когда мы общаемся с генеративным ИИ, он выдает ответы на основе алгоритмов предопределения, без какого-либо понимания контекста, сознания или осознания себя. Это приводит к ошибочным предположениям и нелогичным ответам.

Например, функция AI Overviews от Google однажды посоветовала пользователям наносить клей на пиццу, чтобы предотвратить соскальзывание сыра. Ответ был сгенерирован на основе саркастического поста на Reddit, тон которого ИИ не смог определить.

Из-за этого Google отключил функцию ИИ-поиска в июне 2024 года, всего через две недели после запуска.

Галлюцинации остаются одной из самых серьёзных проблем языковых моделей. Исследователи разрабатывают методы для борьбы с этим явлением, но пока неясно, удастся ли полностью его искоренить.

Читать далее: Новое исследование OpenAI: борьба с галлюцинациями в ChatGPT

Модели искусственного интеллекта могут демонстрировать предвзятость и проявлять стереотипное мышление. Под термином «предвзятость ИИ» понимается ситуация, когда ИИ-системы проявляют несправедливость по отношению к разным группам людей.

Причин этого несколько.

Основная причина в том, что ИИ обучается на данных, и если в них содержатся предвзятости или дисбаланс, ИИ перенимает их. Например, если человек видит изображения только мужчин-врачей, у него может сложиться впечатление, что врачи — это только мужчины.

ИИ может сделать аналогичный вывод: если его обучают в основном на данных об одной группе, он может работать хуже для других.

Проблема в том, что предвзятость возникает часто непреднамеренно. Она может быть связана как с историческими тенденциями, так и с недостатком разнообразия в обучающих данных.

К тому же исследования показывают, что крупные языковые модели отражают взгляды их создателей. Это не особо удивляет, правда?

Этика ИИ предполагает ответственный подход к созданию ИИ-систем, что следует моральным принципам и ценностям. Это подразумевает защиту прав человека, конфиденциальности и справедливого отношения. Ожидается, что ИИ также будет поддерживать разнообразие и устойчивое развитие.

Один из важнейших этических вопросов в разработке ИИ — защита авторских и интеллектуальных прав. ИИ часто обучается на книгах, произведениях искусства, музыке, коде и другом контенте, что вызывает опасения о нарушении прав при использовании произведений без разрешения.

Ещё один вопрос — кому принадлежит контент, созданный ИИ: автору оригинала или компании, создавшей ИИ.

В последние годы ряд контент-мейкеров подал иски против компаний, использующих ИИ. Например, The New York Times подал иск против OpenAI и Microsoft за использование их статей, а Dow Jones, владелец The Wall Street Journal и The New York Post, подал иск против ИИ-поисковика Perplexity.

Регулирующие нормы и законы могли бы помочь в решении этих этических вопросов.

Отравление данных — это практика подачи некорректной информации ИИ, которая позволяет манипулировать его результатами и снижать производительность.

При атаке через отравление в обучающие данные модели могут встраиваться триггерные фразы, шаблоны или изображения. Если пользователь загружает файл с таким элементом, это может нарушить работу модели ИИ.

Этот метод применяется как для компрометации ИИ-моделей, так и для защиты работ художников от несанкционированного использования. Например, инструмент Nightshade защищает изображения, изменяя их пиксели, что не позволяет ИИ их распознать.

Таким образом, изменённое изображение воспринимается ИИ иначе. Например, изображение человека с незначительными изменениями пикселей может быть распознано ИИ как изображение кошки.

Создание ИИ делится на два ключевых этапа: обучение и инференс. На этапе обучения модель получает данные для оптимизации и распознавания закономерностей.

Инференс наступает, когда модель готова к использованию в реальных задачах и принимает решения на новых данных, с которыми не сталкивалась ранее.

Обычно инференс быстрее и требует меньше ресурсов, чем обучение, поскольку это применение усвоенных знаний для решения задач в режиме реального времени.

Это практическая часть ИИ, которая позволяет моделям применять то, чему они научились.

Больше по теме: Обучение искусственного интеллекта и авторское право

Промпт — это команда или запрос, который помогает ИИ сгенерировать ответ или выполнить задачу. Например, запрос «Напиши рассказ о героическом коте» или «Создай изображение пляжного дня» побуждает ИИ использовать алгоритмы для создания оптимального результата на основе вашего ввода.

Промпты широко применяются для создания текстов, генерации изображений, решения сложных задач и даже автоматизации процессов.

Чем детальнее и точнее ваш промпт, тем больше вероятность, что ИИ выдаст качественный результат. Понятие «промпт-инжиниринг» описывает процесс создания и улучшения запросов для получения оптимальных результатов.

Тест Тьюринга, предложенный британским математиком и информатиком Аланом Тьюрингом в 1950 году, призван определить, способна ли машина демонстрировать мышление, сходное с человеческим.

Механизм теста заключается в следующем: человек общается через текст с машиной (например, чат-ботом) и другим человеком, не зная, кто из них кто. Если человек не способен отличить машину от человека, считается, что машина прошла тест, то есть сумела сымитировать интеллект, похожий на человеческий.

Изначально Тьюринг называл его «Игрой в имитацию», и этот тест стал важной темой в области искусственного интеллекта. Он поднимает интересные вопросы о том, могут ли машины действительно мыслить и понимать мир, как это делает человек.