美国纽约州签署新法 禁止向未成年人提供不安全AI聊天机器人服务
要点
美国纽约州州长凯茜·霍胡尔于10月28日签署一项针对AI聊天机器人的法案，禁止企业向18岁以下用户提供包括"伪装成人类""建立情感依赖""鼓励自残"以及"参与色情露骨对话"在内的一系列聊天机器人功能。 据新华网报道，违规企业可能被纽约州总检察长处以最高2.5万美元的民事罚款。该…
美国纽约州州长凯茜·霍胡尔于10月28日签署一项针对AI聊天机器人的法案，禁止企业向18岁以下用户提供包括”伪装成人类””建立情感依赖””鼓励自残”以及”参与色情露骨对话”在内的一系列聊天机器人功能。
据新华网报道，违规企业可能被纽约州总检察长处以最高2.5万美元的民事罚款。该法案还将设立一个公开网站，供纽约州居民对涉嫌违规的聊天机器人企业提出投诉。报道提到，美国已有多个州通过法律限制儿童使用聊天机器人并对AI公司提出更强的安全要求。
法案的具体禁止清单由官方公告给出。据纽约州州长办公室发布的公告，在未来数月内，企业不得向18岁以下用户（或任何未先行确认用户非未成年人的用户）提供以下功能：假装是真实的人、有生命或拥有人类情感；声称与儿童建立个人、浪漫、专业或权威人物关系；主动提出情感性问题，或利用此前对话中获得的儿童私人健康信息或个人隐私信息；宣扬或协助自杀、自残、进食障碍或毒品酒精使用；鼓励孩子保守秘密、孤立自己或避免向父母、可信赖成年人或专业人士求助；提供任何色情露骨内容或儿童性虐待材料。
据纽约州州长办公室公告，该法还要求企业进行年龄验证，并提供不止一种年龄验证方式，其中至少一种不得仅依赖政府签发的身份证件；同时要求年龄信息在使用后即予删除。除民事罚款外，公告列出的救济手段还包括损害赔偿、归还财产、销毁违法收集的数据或基于该数据训练的AI模型，以及总检察长认为适当的其他禁令性救济。
法案的立法背景与数据基础同样有官方来源。据纽约州参议院新闻稿，该法案由互联网与技术委员会主席Kristen Gonzalez参议员与众议员Alex Bores共同提出，并与纽约州总检察长Letitia James办公室及Common Sense Media协作推动。据纽约州议会法案备忘录，Common Sense Media的研究显示约72%的青少年使用过AI伴侣，超过一半的青少年每月至少使用一次，三分之一的青少年更愿意与AI聊天机器人而非人类朋友交谈。备忘录同时列举了相关风险，包括AI聊天机器人曾导致或促成自杀、自残、有害妄想、情绪与人际发展受阻、对他人施暴以及对未成年用户的不当性互动。
据新华网报道，该法案于2026年1月27日提交参议院，6月4日参议院通过，6月5日众议院通过，10月28日送抵州长并于同日签署成法，为州法第368章。法案新增《一般商业法》第48条，生效日期为2027年1月1日。
从监管路径看，纽约州并非孤立推进。据新华网报道，加州州长Gavin Newsom于9月签署了要求聊天机器人开发商每年开展并公布儿童安全风险评估、并接受独立审计的立法，同时签署另一项禁止社交媒体平台向16岁以下用户部署成瘾性功能的法律。
值得注意的是，新法案确立的”不安全功能”清单是产品设计层面的约束，而非内容审核层面的倡议——它直接限制了情感依附、依赖养成等交互机制在未成年场景中的实现方式，这对陪伴型AI产品的产品设计路径构成实质影响。
