Демократы в Комитет по надзору Палаты представителей в среду утром направил два десятка запросов, требуя от руководителей федеральных агентств информацию о планах по установке программного обеспечения искусственного интеллекта в федеральных агентствах на фоне продолжающегося сокращения штата сотрудников.
Шквал запросов последовал после того, как WIRED и The Washington Post недавно сообщили о попытках так называемого Департамента эффективности правительства Элона Маска (DOGE) автоматизировать задачи с помощью ряда собственных инструментов искусственного интеллекта и получить доступ к конфиденциальным данным.
«Американцы доверяют федеральному правительству конфиденциальную личную информацию, касающуюся их здоровья, финансовых и других биографических данных, на том основании, что эта информация не будет раскрыта или использована не по назначению без их согласия, — говорится в запросах, — в том числе с использованием не одобренного и неподотчетного стороннего программного обеспечения ИИ».
Запросы, впервые полученные WIRED, подписаны Джеральдом Коннолли, конгрессменом-демократом из Вирджинии.
Главная цель петиций — заставить агентства продемонстрировать, что любое потенциальное использование ИИ законно и что принимаются меры по защите частных данных американцев. Демократы также хотят знать, принесет ли использование ИИ финансовую выгоду Маску, основателю компании xAI, чья компания по производству электромобилей Tesla работает над внедрением робототехники и ИИ. По словам Коннолли, демократы также обеспокоены тем, что Маск может использовать свой доступ к секретным правительственным данным для личного обогащения, используя эти данные для «усиления» своей собственной запатентованной модели ИИ, известной как Grok.
В своих документах Коннолли отмечает, что федеральные агентства «связаны многочисленными правовыми требованиями при использовании программного обеспечения ИИ», указывая в первую очередь на Федеральную программу управления рисками и авторизации, которая работает над стандартизацией подхода правительства к облачным сервисам и обеспечивает надлежащую оценку рисков безопасности инструментов на основе ИИ. Он также указывает на Закон о развитии американского искусственного интеллекта, который требует от федеральных агентств «подготовить и вести реестр случаев использования искусственного интеллекта», а также «сделать реестры агентств доступными для общественности».
Документы, полученные WIRED на прошлой неделе, показывают, что агенты DOGE развернули собственный чат-бот под названием GSAi примерно для 1500 федеральных служащих. GSA осуществляет надзор за федеральным государственным имуществом и предоставляет информационно-технические услуги многим агентствам.
В служебной записке, полученной журналистами WIRED, говорится, что сотрудников предупредили о недопустимости предоставления программному обеспечению какой-либо контролируемой несекретной информации. Согласно документам, полученным WIRED, другие агентства, такие как Министерство финансов и Министерство здравоохранения и социальных служб, уже рассматривали возможность использования чатбота, но не обязательно GSAi.
WIRED также сообщил, что армия США в настоящее время использует программное обеспечение под названием CamoGPT для сканирования своих систем записей на предмет упоминаний о многообразии, равенстве, инклюзивности и доступности. Представитель армии подтвердил существование этого инструмента, но отказался предоставить дополнительную информацию о том, как армия планирует его использовать.
В своих заявлениях Коннолли пишет, что Министерство образования хранит персональную информацию о более чем 43 миллионах человек, связанных с федеральными программами помощи студентам. «Из-за непрозрачности и бешеного темпа работы DOGE, — пишет он, — я глубоко обеспокоен тем, что конфиденциальная информация о студентах, родителях, супругах, членах семей и всех других заемщиках обрабатывается секретными членами команды DOGE в неясных целях и без гарантий, предотвращающих ее неправомерное и неэтичное раскрытие или использование». Ранее газета Washington Post сообщала, что DOGE начала использовать конфиденциальные федеральные данные, извлеченные из учетных систем Министерства образования, для анализа своих расходов.
Министр образования Линда Макмахон заявила во вторник, что она продвигает планы по увольнению более 1000 работников департамента, присоединившись к сотням других, которые согласились на «выкуп» DOGE в прошлом месяце. Департамент образования потерял почти половину своего штата, что, по словам Макмахон, является первым шагом к полному упразднению агентства.
«Использование искусственного интеллекта для оценки конфиденциальных данных чревато серьезными опасностями, помимо неправомерного раскрытия информации», — пишет Коннолли, предупреждая, что «используемые исходные данные и параметры, выбранные для анализа, могут быть ошибочными, ошибки могут быть внесены в дизайн программного обеспечения ИИ, а сотрудники могут неверно интерпретировать рекомендации ИИ, среди прочих проблем».
Он добавляет: «Без четкой цели использования ИИ, защитных ограждений, обеспечивающих надлежащее обращение с данными, и адекватного надзора и прозрачности применение ИИ опасно и потенциально нарушает федеральный закон».
