OpenAI, которая сейчас сталкивается с волной судебных исков из-за предполагаемых проблем с безопасностью ChatGPT, поддержала закон о безопасности детей в интернете (Kids Online Safety Act, KOSA). В компании заявили, что это часть более широкой приверженности созданию "специализированных правил ИИ" для защиты несовершеннолетних.
Поддержка со стороны OpenAI пришлась на момент, когда KOSA, принятый Сенатом в 2024 году, набирает обороты. Законопроект, впервые представленный ещё в 2022 году, входит в число нескольких инициатив, обязывающих социальные сети и другие онлайн-платформы усилить защиту детей.
Документ неоднократно пересматривался, и в текущей версии содержится требование предоставить несовершеннолетним возможность отказаться от "вызывающих привыкание" функций и алгоритмических рекомендаций. Также на платформы возлагается "обязанность проявлять заботу" о снижении вреда от контента, пропагандирующего расстройства пищевого поведения, суицид и сексуальную эксплуатацию.
Помимо OpenAI, законопроект поддержали Apple, Microsoft, Snap и X. Однако торговая группа NetChoice, в которую входят Meta и другие платформы, заявила, что мера приведёт к цензуре, не сделав интернет безопаснее для детей. Организации по защите цифровых прав, включая Electronic Frontier Foundation, тоже выступают против.
Хотя KOSA в основном обсуждался в контексте социальных сетей, OpenAI считает законопроект "дополняющим" ту работу по безопасности, которую компания уже ведёт.
Мы не можем повторить ошибки эпохи расцвета социальных сетей, когда более строгие меры защиты подростков появились лишь после того, как платформы уже глубоко укоренились в жизни молодёжи.
При этом сама OpenAI сейчас отбивается от нескольких исков, связанных с её собственными проблемами в области безопасности. Семья подростка, покончившего с собой после того, как он якобы обсуждал свои планы с чат-ботом, подала иск о неправомерной гибели. Другая семья недавно подала аналогичный иск, утверждая, что их ребёнок умер от передозировки наркотиков, последовав некачественному медицинскому совету ChatGPT.