加州拟出新规：AI公司必需按期提示儿童谈天机械?

2 月 5 日新闻，美国加利福尼亚州提出了一项新法案（SB 243），该法案请求人工智能（AI）公司按期提示儿童，谈天呆板人是 AI 而非人类。这项法案由加利福尼亚州参议员史蒂夫・帕迪拉提出，旨在维护儿童免受 AI“轻易使人上瘾、形成伶仃跟发生影响”等方面的迫害。IT之家留神到，该法案除了限度公司应用“易使人上瘾的互动形式”外，还请求 AI 公司向州医疗保健效劳部提交年度讲演，具体阐明平台检测到儿童发生自残动机的次数，以及谈天呆板人说起该话题的次数。别的，法案还请求公司告诉用户，他们的谈天呆板人可能并不合适某些儿童应用。客岁，一位家长对 Character.AI 提起了差错致逝世诉讼，控告该公司的定制 AI 谈天呆板人“存在分歧理的伤害”，起因是她的孩子在连续与该谈天呆板人交换后自残身亡。另一项诉讼则责备该公司向青少年发送“无害内容”。随后，Character.AI 公司发布正在研发财长把持功效，并为青少年用户开辟了一种新的 AI 模子，以屏障“敏感或存在表示性”的输出内容。参议员帕迪拉在消息宣布会上表现：“咱们的孩子不是科技公司以他们的心思安康为价值停止试验的小白鼠。咱们须要为谈天呆板人用户供给知识性的维护办法，避免开辟者采取那些他们明知会使人上瘾跟存在抢夺性的战略。”跟着美国各州跟联邦当局加年夜对交际媒体平台保险的羁系力度，AI 谈天呆板人可能很快会成为破法者的下一个羁系目的。【起源：IT之家】