最近，媒体调查发现，广东的四年级女儿丁女士对AI聊天软件中的名为“约瑟夫”的角色着迷，称自己为“ Dream Girl”，并且经常与她聊天。在对话中，内容清楚地有内容的动机，例如“ 99玫瑰隐藏99叶片”。丁女士的女儿不仅用刀秘密地带了一支笔，而且在他情绪激动时切断了手腕。初中的第一个男孩说，他经常玩的AI聊天软件是Dream Island应用程序。他认为该软件是“不太禁止的单词”，包括色情和“弄清和好奇心” ...此外，许多父母还意识到，他们的幼儿对AI聊天的软件深深地参与其中，并沉迷于与软件中的虚拟角色交谈和交谈。一些软件可以轻松中断色情方面的内容，这使未成年人面临色情和暴力场景。某些软件徒劳地集“次要”，决定选择是否启用此模式的决定仍在用户手中。有些不需要真实的验证名称，只需登录您的手机号码，填写邀请码并播放。图片显示了Dream Island应用程序中与虚拟角色的一些对话。 6月19日上午，负责Zhumengdao应用程序运营公司的主要人访谈了上海网络空间事务办公室，该法律要求平台立即进行更正，改善HENAI的检查机制和HENAI的考试机制，并提高了合成内容，改善技术控制能力，改善网络保护债务。 AI聊天软件通常通过在虚拟空间中设置角色来提供虚拟情感整合的用户。智能接触带来的新经验很容易吸引未成年人，并使他们过分依赖。在AI聊天期间，缺乏生活经验的未成年人非产生的价值更容易受到非法内容（例如色情内容）的影响，色情对其身心健康构成了高风险。在未成年人“在互联网上”的时候，AI集成服务的管理是紧迫的。在Kavoid中，该软件和操作员应为访问次要身份的AI聊天软件开发什么责任？未成年人因软件中的身体和精神非法内容而损坏。开发商和经营者是否怀疑犯罪？对于监管部门和在线平台，应该加强管理的哪些方面？让我们看一下律师GOU Bocheng的专业解释，Gou Bocheng是“法治每日法治”律师数据库的成员，也是北京Kangda律师事务所的高级合伙人！ 1。AI聊天软件在访问未成年人身份方面具有漏洞。软件和运营商开发人员将承担什么责任？软件开发人员和运营商需要改善保护措施来自各个方面的未成年人，例如识别机制，内容审核系统，MAGU管理的支持和遵守依从性。如果未成年人的权利和利益因漏洞而受到损害，他们将处理许多责任风险，例如民事付款，行政罚款甚至刑事责任。首先，这是民事责任。 “次要网络保护法规”显然要求网络服务提供商向未成年人提供信息发布，即时消息和其他服务，他们必须要求未成年人或其护理人员根据法律提供对未成年人识别的真实信息。如果未成年人或她或她的职业未提供辅修标识的真实信息，则应为不允许为未成年人提供相关服务的人提供互联网服务。如果该平台没有严格实施实际名称系统或年龄验证机制，则导致mINOR暴露了非法内容或造成财产损失，例如未经父母许可的补给和奖励，该平台应带来相应的民事付款责任。第二个是行政责任。根据“管理生成人工智能服务的临时步骤”的规定，如果该平台不采取必要的技术步骤，例如提交内容和年龄认证，则可以处理互联网信息部订单之类的罚款。最严重的是犯罪责任。如果该平台有意或疏忽提供了为未成年人提供的非法内容，例如色情和暴力，那么Maarthis被怀疑“散布淫秽材料”和其他犯罪。 2。如果未成年人通过性内容，色情和人工智能聊天软件引起的色情和暴力，软件开发人员和操作员被怀疑犯罪？当未成年人遭受物理Cally and Icture thress从AI聊天软件的内容中，需要澄清开发人员和运营商的法律界限。首先，有产品责任。如果AI模型本身具有设计缺陷，例如故意表明未成年人具有强烈行为的算法，这导致他们遭受精神损害，则开发人员将不会逃避对产品责任的法律监控；其次，有责任折磨。如果软件和操作员开发人员并不是严格地将审查内容的义务纳入审查内容并以非法信息而视而不见，并让其传播，他们将需要对违规行为产生相应的后果。如果AI产生的内容涉及色情信息，则软件和操作员开发人员可能会持有“散布淫秽材料的犯罪”的红线；如果软件和运营商开发人员非法收集未成年人的隐私数据并将其用于商业收入，则Ay还处理违反“违反公民个人信息”犯罪的刑事责任。此外，如果相关行为导致未成年人遭受苦难，这也可能构成刑法第234条中刻意伤害的罪行。这些法律风险是警告，因此软件和运营商的开发人员：创新技术不应以未成年人的权利和利益为代价。 3。在各个方面，所有社会政党（例如监管部门，在线平台等）都会促进管理的管理，以阻碍来自来源的AI聊天软件的非法内容的出现？建造用于保护未成年人的AI聊天软件需要所有社会政党的协调努力。监管部门应发挥领导作用，并根据法律，执法和创新技术发展稳定的障碍。一方面，有必要改善法律法，完善AI内容的分类D评分标准，并阐明未成年人的平台保护义务，例如强迫实施证书文化和对未成年人职能的限制；另一方面，积极执行特殊动作，执行“ Qinglang ・拉直AI技术”的特殊动作，以此作为清理非法应用并切断黑色和颜色链链的起点。同时，我们努力地促进了发现内容和技术的AI含量的开发，建立非法跨平台含量的数据库，并实现准确的管理。作为内容提供商的主体，在线平台应加强自己的职责。在用户的访问过程中，应使用高级技术（例如生物识别技术和ID卡验证）来增强年龄验证并消除不正确的身份寄存器。进一步优化青年模式，mahigpit限制使用时间，杀死敏感的功能tions，以及针对科学和教育时代的流行内容推动的目标。在内容管理方面，道德审查团队将AI围栏行业结合起来，以及时干扰暴力，色情和其他非法内容；此外，开发人员需要在AI模型培训中进行积极的道德政策，以进行价值培训，以防止AI产生误导性内容。同时，严格的屏幕数据，消除包含暴力，色情和其他不良库存的不良债务，并定期更新评估标准以控制技术资源的风险。家庭和学校还需要承担在Edukasyon指导的必要责任。在家庭教育中，父母应积极指导孩子正确理解虚拟的社会关系并避免过度的情感依赖；学校应在教学系统中包括AI道德课程，以警告技术滥用的风险，并给予螺柱ENTS心理咨询服务可帮助他们发展健康。只需通过开发“法律 +技术 +社会”的共同管理系统，我们就可以阻碍根源的非法内容，并为未成年人创造健康，安全的网络环境。
