ИИ-чатботы, подходящие только для взрослых, всё ещё появляются в детских игрушках AI chatbots that are fit only for adults are still appearing in kids toys

Отчёт U.S. PIRG Education Fund предупреждает, что ИИ-чатботы в детских игрушках, основанные на моделях для взрослых, могут генерировать неподходящий или неточный контент. Это создаёт риски для безопасности детей и их приватности, так как голосовые данные могут передаваться на внешние серверы. Индустрии и регуляторам необходимо обновить стандарты безопасности и разрабатывать ИИ-системы, специально адаптированные для детей.

A U.S. PIRG Education Fund report warns that AI chatbots in children's toys, often built on models designed for adults, can generate inappropriate or inaccurate content, posing safety and privacy risks as voice data may be sent to external servers. The findings highlight a regulatory gap, as existing child privacy laws predate generative AI. The report calls for stronger safeguards, content filtering, and AI systems specifically designed for children, urging collaboration between tech companies and regulators.