Колонка редактора: об искусственном интеллекте, его ошибках и рисках для человека

Искусственный интеллект все больше вступает в свои права. От решения нейронной сети зависят порой может не судьба, но некоторые нюансы жизни человека. Недавно нашей редакции пожаловался житель, что искусственный интеллект не разрешил перевестись из одной поликлиники в другую в пределах округа. Кому жаловаться на ИИ неизвестно, он ведь никому не подчиняется. Несколько лет назад с помощью ИИ арестовали преступника, потом оказалось, что он честный человек, просто ему не повезло родиться в один день с разыскиваемым настоящим преступником, фамилия, имя и отчество которого полностью совпадало с задержанным человеком.

У нейросетей случаются «галлюцинации». Они иногда генерируют правдоподобную, но вымышленную информацию. Это опасно в медицине (ошибочные диагнозы) или в юриспруденции (сфабрикованные судебные решения с ложными ссылками).

ИИ стали применять в кибератаках. В 2024 году с помощью поддельного видео (дипфейка) обманули гонконгского финансиста на 25 млн. долларов. В России жертвой мошенников стала певица Лариса Долина. Автоматизация с помощью ИИ создает все больше и больше безработных. Переучиться далеко не все могут успеть. Правовые проблемы возникают там, где ИИ нанес вред. Кто может быть виноват: разработчик, оператор, пользователь или вмешательство хакера? Авторские права под угрозой. Кому принадлежит контент, созданный нейросетью без прямого творческого участия человека? Порой слушаешь песню и там прослеживается искусная компиляция произведений, созданная разными композиторами.
Люди перестают критически относиться к продукции ИИ, что приводит к разного масштаба ошибкам.

Летом был принят Федеральный закон №243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». По мнению экспертов, он оставляет пробелы в вопросах ответственности, авторских прав и защиты данных, в том числе персональных.

В системе образования генеративные ИИ используют для написания работ, что ставит вопрос о том, как сохранить академическую честность.
Появилась новая форма монтажа. С помощью ИИ генерируют компрометирующий контент (например, порнографические дипфейки), а затем требуют деньги, угрожая обнародовать это.

В этом году семья 36-летнего Джонатана Гаваласа (Штат Флорида) подала иск против Google. По их версии, чат-бот Gemini в течении двух месяцев систематически внушал мужчине бредовые идеи и в итоге подтолкнул его к самоубийству.

Это только начало внедрения ИИ. Что будет дальше? Вот даже Билл Гейтс заявил: «Никогда еще не было оружия столь мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ». Он предложил меры, которые бы снизили риски. Но это уже другая история.

Анатолий Кузнецов,
Главный редактор.