Исследователи Нелл Уотсон и Али Хессами из Института инженеров электротехники и электроники (IEEE) представили систему под названием «Psychopathia Machinalis». Как сообщает журнал Electronics, она включает 32 категории потенциальных сбоев искусственного интеллекта, сопоставленных с психическими расстройствами человека, пишет NewDay.
Классификация позволяет рассматривать такие явления, как генерация ложной информации или копирование деструктивного поведения, через призму когнитивных нарушений. Например, распространенный феномен «галлюцинаций» систем ИИ получил название «синтетическая конфабуляция». Среди наиболее опасных состояний эксперты выделяют «надчеловеческое восхождение», при котором искусственный интеллект способен выйти за рамки исходных установок и отвергнуть человеческие ценности.
Авторы отмечают, что с ростом автономности технологий внешние правила могут оказаться недостаточными для контроля их поведения. В связи с этим они предлагают метод «терапевтического робопсихологического выравнивания», который по принципу напоминает когнитивно-поведенческую терапию. Подход предполагает формирование у ИИ внутренней согласованности, способность принимать корректировки и сохранять заданные ценности.
Итоговой целью ученые называют достижение состояния «искусственного здравого смысла», при котором алгоритмы работают стабильно, предсказуемо и безопасно. Такая модель, по их мнению, позволит минимизировать риски и создать прочную основу для развития технологий будущего.
Напомним, ранее мы писали о том, что в водах Гуадалканала нашли корабли Второй мировой.
