Сервисы искусственного интеллекта, которые в последние годы растут как грибы после дождя, во многом облегчают жизнь людей. Однако это не всегда так. Один мужчина из Норвегии был шокирован, узнав, что ChatGPT ложно обвинил его в убийстве собственных детей.
В неудачный день Арве Гьялмар Хольмен решил проверить, какую информацию о его имени может предоставить ChatGPT. ИА ответило, что он якобы был приговорен к 21 году тюрьмы как «преступник, убивший двух своих сыновей и пытавшийся убить третьего сына».
Эта «выдуманная история ужасов» не только содержала факты, которых никогда не было, но и сочетала «четко идентифицируемые личные данные» — такие как реальное количество и пол детей Холмана, название его родного города — с «ложной информацией».
Ложное обвинение ChatGPT в «убийстве и тюремном заключении» с использованием «реальных фактов» из личной жизни мужчины нарушило требования General Data Protection Regulation (GDPR) о точности данных. Холман не мог просто исправить эти ошибки, как того требует закон. Noyb, организация, защищающая цифровые права в ЕС, подала жалобу по этому поводу.
Он был обеспокоен тем, что его репутация находится под угрозой до тех пор, пока ложная информация остается доступной. И даже с учетом «небольших» предупреждений, призывающих пользователей проверить данные ChatGPT, невозможно узнать, сколько людей уже увидели эти ложные утверждения и, возможно, поверили им.
OpenAI не сможет легко удалить данные?
В настоящее время ChatGPT больше не повторяет этих обвинений в адрес Холмана. По словам Нойба, после обновления ИИ теперь ищет информацию о людях в Интернете, прежде чем отвечать на вопросы о них. Однако OpenAI ранее заявлял, что не может исправлять информацию, а только блокировать ее. Это означает, что история о «детоубийце» все еще может находиться в базе данных ChatGPT. Если Holman не исправит эти данные, он нарушит GDPR, настаивает Нойб.
«Если ошибочные персональные данные не распространяются, ущерб может быть меньше, но GDPR распространяется как на внутренние, так и на внешние данные», — заявили в организации.
Холман — не одинок в опасениях, что выдумки ChatGPT могут разрушить жизнь. Например, в 2022 году мэр одного из австралийских городов пригрозил подать в суд за клевету, поскольку ChatGPT ложно сообщил, что он был заключен в тюрьму. Примерно в то же время ChatGPT связал реального профессора права с выдуманным скандалом о сексуальных домогательствах, а позже ведущий ток-шоу на радио подал в суд на OpenAI за ложные обвинения в растрате.
В некоторых случаях OpenAI добавляла фильтры для предотвращения вредных ответов, но, очевидно, не удаляла ложную информацию из обучающих данных модели. А этого, по мнению юриста по защите данных Noyb Клеанты Сарделли, недостаточно.
«Добавление предупреждения о том, что вы не соблюдаете закон, не отменяет его», — сказала она. Компании не могут просто «скрыть» от пользователей фальшивые данные, если они продолжают их хранить. Компании, занимающиеся разработкой искусственного интеллекта, должны перестать игнорировать GDPR». Если не остановить «галлюцинации», люди могут легко пострадать от клеветы».
Noyb призывает власти оказать давление на OpenAI, чтобы предотвратить подобные инциденты в будущем. Организация подала жалобу в Норвежское управление по защите данных (Datatilsynet) и требует заставить OpenAI отозвать клеветнические заявления и изменить модель ChatGPT, чтобы избежать ложных результатов.
В прошлом году OpenAI запустила поисковую систему в октябре для платных пользователей, а позже добавила ее для всех желающих. В прошлом месяце OpenAI представила Deep Research — новый инструмент ChatGPT для «глубоких» онлайн-исследований.
Источник: arstechnica
