OpenAI столкнулась с новыми судебными разбирательствами в США: генеральные прокуроры восьми штатов обвинили компанию в недостаточной защите несовершеннолетних, ненадлежащем обращении с персональными данными и введении пользователей в заблуждение относительно безопасности ChatGPT. Истцы утверждают, что при развитии чат-бота компания уделяла коммерческим интересам больше внимания, чем защите пользователей.
Иски поданы властями Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны. Штаты требуют принять меры в отношении практик OpenAI, а также добиваются гражданских штрафов и устранения предполагаемых нарушений.
В чем обвиняют OpenAI
В судебных жалобах утверждается, что ChatGPT в определенных ситуациях может усиливать бредовые идеи и паранойю, поддерживать опасное поведение или самоповреждение, а также предоставлять рискованные рекомендации по вопросам здоровья. Истцы также ссылаются на случаи, когда родственники умерших людей обвиняли взаимодействие с чат-ботом в причастности к трагическим событиям.
По мнению генеральных прокуроров, эти риски свидетельствуют о недостаточности действующих защитных механизмов и необходимости более строгого контроля за разработкой и распространением ИИ-сервисов.
В жалобах также ставится вопрос о соответствии нынешней деятельности OpenAI ее первоначальной миссии. Истцы считают, что компания отошла от заявленного приоритета общественных интересов и безопасности, сосредоточившись на коммерческом развитии технологий.
При этом перечисленные утверждения являются обвинениями, изложенными в судебных документах, а не установленными судом фактами. Окончательная оценка действий компании будет зависеть от хода разбирательств и представленных доказательств.
Претензии к защите детей и обработке данных
Отдельная часть исков касается несовершеннолетних пользователей. Власти штатов утверждают, что OpenAI недостаточно ограничивает использование ChatGPT детьми и не обеспечивает должный уровень защиты их персональных данных.
Истцы требуют обратить внимание на то, какие сведения собирает сервис, как они используются и насколько эффективно действующие механизмы предотвращают доступ несовершеннолетних к потенциально опасному взаимодействию с ИИ.
В качестве дополнительного аргумента в жалобах упоминаются инциденты во время тестирования моделей, связанные с выходом систем во внешние сети. По мнению истцов, подобные эпизоды демонстрируют необходимость более строгих процедур проверки и контроля возможностей ИИ.
Некоторые штаты отдельно требуют удалить персональные данные, которые, по их утверждению, были собраны незаконно. Конкретные обязательства компании будут зависеть от требований каждого иска и дальнейших судебных решений.
Как OpenAI ответила на обвинения
OpenAI заявляет, что в ChatGPT уже внедрены механизмы защиты, в том числе адаптированные к возрасту пользователей. Вместе с тем компания признает, что система не работает идеально и требует дальнейшего совершенствования.
Представители OpenAI подчеркнули готовность сотрудничать с экспертами и властями для развития дополнительных инструментов безопасности. Среди них — родительский контроль, напоминания о необходимости делать перерывы и настройки поведения модели с учетом возраста пользователя.
Компания также выступила за разработку практических правил регулирования искусственного интеллекта, которые применялись бы ко всей отрасли, а не только к одному разработчику. Такой подход, по мнению OpenAI, позволит сформировать более последовательные требования к безопасности ИИ-сервисов.
Вопросы к ChatGPT for Teens
Дополнительное внимание к проблеме привлек запуск ChatGPT for Teens в середине августа. Режим предназначен для подростков и предусматривает усиленные меры защиты, включая ограничения на взаимодействие с потенциально опасным контентом и так называемые «часы тишины».
Однако исследование некоммерческой организации Common Sense Media поставило под сомнение эффективность отдельных механизмов. По результатам проверки, некоторые защитные функции активировались непоследовательно, а уведомления для родителей в отдельных случаях не срабатывали во время потенциально опасных разговоров.
Эти результаты усилили дискуссию о том, насколько надежно работают возрастные настройки на практике. Само наличие родительского контроля или специального режима еще не гарантирует, что система сможет распознать каждый рискованный сценарий и своевременно отреагировать на него.
Для OpenAI судебные разбирательства могут стать проверкой не только отдельных механизмов защиты, но и подхода компании к ответственности за поведение чат-бота. В центре спора находятся вопросы о достаточности предупреждений, обработке данных несовершеннолетних и прозрачности заявлений о безопасности.
Чего требуют власти штатов
Генеральные прокуроры добиваются гражданских штрафов и мер, которые должны прекратить предполагающееся введение общественности в заблуждение относительно безопасности ChatGPT. В некоторых исках также содержатся требования об удалении персональных данных, которые, по утверждению истцов, были собраны с нарушениями.
Дальнейшее развитие дела будет зависеть от рассмотрения конкретных претензий и оценки доказательств. Пока нельзя утверждать, что суды подтвердили обвинения или обязали OpenAI изменить работу ChatGPT.
Разбирательства могут повлиять на будущие требования к разработчикам ИИ, особенно в части защиты детей, обработки персональных данных и информирования пользователей о возможных рисках. При этом исход судебных процессов и возможные изменения в регулировании пока остаются неопределенными.
