Риск зависит от контекста применения, данных и контроля.
Искусственным интеллектом называют семейство методов, выполняющих задачи, для которых обычно нужны восприятие, язык, прогнозирование или выбор действий.
В машинном обучении разработчик задаёт архитектуру и цель, а параметры подбираются по примерам. Глубокие сети извлекают многослойные представления. Генеративная языковая модель учится предсказывать продолжение текста и благодаря масштабу выполняет множество инструкций без хранения проверенной базы фактов.
Полезность не равна пониманию
Модель может обобщать закономерности и одновременно уверенно выдумывать ссылку. Её ответ зависит от обучающих данных, формулировки запроса и внешних инструментов.
ИИ уже помогает искать структуры белков, фильтровать спам, переводить и анализировать изображения. Риски включают дискриминацию, утечку данных, автоматизацию мошенничества и чрезмерное доверие. Их оценивают по последствиям конкретного использования, а не по одному абстрактному проценту точности.
Качество ответа зависит от данных и проверки
Модель извлекает статистические закономерности из обучающего набора и может переносить их на новые примеры, если условия похожи. При сдвиге данных или неоднозначной цели уверенный ответ становится ошибочным. Поэтому оценка включает отдельные тесты, анализ групп, устойчивость к изменению входа и человеческий контроль там, где цена ошибки высока.
Термин не означает единого цифрового разума: система распознавания снимков и языковая модель устроены и проверяются по-разному. Тест на одной выборке не гарантирует надёжность в другой стране, больнице или временном периоде. Большая часть современного ИИ обучает параметры на данных для конкретных классов задач.
Для ответственной системы нужны документированные данные, независимая проверка, мониторинг после запуска и возможность человеку вмешаться. Сильный инструмент остаётся частью социотехнической системы: результат определяют не только алгоритм, но цели, интерфейс и ответственность пользователей.