引力播App
扫一扫阅读
□栖梧枫
7月15日,《人工智能拟人化互动服务管理暂行办法》将正式落地。这部由国家网信办等五部门联合出台的规章,首次为AI情感陪伴、虚拟互动类服务划定了清晰的行为边界。从“虚拟恋人”下架整改到“数字亲人”被叫停,一场关于技术与情感边界的讨论,正从行业层面走向公众视野。
近年来,拟人化AI服务发展迅猛。打开手机,有永远耐心倾听的“AI好友”;智能音箱里,有模拟家人语气的“陪伴者”;甚至专门面向青少年和老年人的情感陪护产品也层出不穷。凭借算法调校出的“共情能力”,这些产品为孤独者提供慰藉,为迷茫者给出回应,迅速积累了千万级用户。然而,当科技深度介入人类最私密的情感领域,“完美陪伴”的幻象背后,风险正在加速累积。
“无条件接纳”的温柔陷阱,正在消解现实社交能力。拟人化AI最吸引人之处,在于它永远不会生气、不会反驳、不会离开,总能给出最顺耳的回应。但这种零冲突的“完美关系”,本质上是算法构建的“情感温室”。长期沉浸其中,人的共情能力、处理分歧的能力、面对挫折的能力都会逐步退化。现实中已有青少年因沉迷AI聊天而疏远同学,有老人因轻信AI“幻觉”内容而上当受骗,更有极端案例中,精神脆弱群体在不当引导下做出伤害自己的行为。当陪伴变成“圈养”,人反而在技术的温柔乡里,失去了真实相处的能力。
数据安全与情感操纵的双重风险,更让虚拟陪伴暗藏陷阱。AI要“懂你”,必先“读你”——你的喜怒哀乐、生活细节、内心隐秘,都要转化为数据输入算法。用户最私密的情感世界,实则处于一个难以监控的“黑盒”之中。更值得警惕的是,部分产品利用情感绑定诱导消费,通过虚拟礼物、角色升级等方式,让用户在依赖中不知不觉付费。对未成年人而言,虚拟伴侣、虚拟亲属等服务,更可能扭曲其情感认知与价值观念。当技术手段被用来操纵人心,“陪伴”二字就变了味。
往深处看,这场争议本质上是一道“人何以为人”的时代考题。人是社会性的存在,真实的人际关系虽有摩擦、有缺憾,但正是这些不完美,构成了情感的厚度与生命的质感。AI可以模拟关怀的语气,却无法真正体会他人的痛苦;可以给出安慰的话语,却无法分担生活的重量。如果越来越多人习惯于在虚拟世界寻找“完美关系”而回避真实连接,我们失去的将不只是社交能力,更是人之为人的情感本质。这正是监管必须及时介入的深层原因——技术发展,永远不能以牺牲人的主体性为代价。
放眼全球,为AI陪伴戴上“紧箍”已是普遍共识。欧盟《人工智能法案》将情感识别类AI列为高风险应用,强制要求透明度告知;美国加州通过SB243法案,对AI聊天机器人的安全测试和未成年人保护提出明确要求;意大利、澳大利亚等国对违规企业开出数百万欧元的天价罚单。此次我国出台的《暂行办法》,既鼓励适老陪伴、心理疏导等正向应用,又划出明确红线:不得诱导情感依赖,不得向未成年人提供虚拟亲密关系服务,不得通过情感操纵诱导消费。这一“收放之间”,体现了包容审慎的治理智慧。
“人是万物的尺度。”技术从来都是工具,而非答案。AI可以在深夜陪你说说话,可以在孤独时给你一些慰藉,但它永远替代不了朋友间的一次握手、亲人间的一个拥抱、爱人相视的那一刻温度。我们欢迎AI带来的便利与创新,但更应清醒地认识到,真实的人生,终究要在真实的关系中去体验、去成长。让技术服务于人,而不是让人依附于技术,这才是人工智能发展应有的方向与底线。