人工智能模型PaliGemma 2能准确识别情绪，引发专家担忧

人工智能PaliGemma 2：情绪识别引发专家疑虑

科技快讯中文网

　　 12月8日消息，谷歌宣布其最新推出的人工智能模型系列具备一项独特功能：可以“感知”用户的情绪。

　　 谷歌在周四推出了其最新的AI模型系列——PaliGemma2，该模型具备图像分析功能，能够生成图像描述，并能回答关于照片中人物的各种问题。根据谷歌在其官方博客上的介绍，PaliGemma2不仅能够识别图像中的物体，还能够生成详尽且与上下文紧密相关的图片说明，涵盖了动作、情感以及整个场景的叙述。

　　 PaliGemma2的情感识别功能并不能直接使用，需要经过专门的微调过程，然而这依然未能打消专家们的顾虑。

　　 多年来，许多科技公司一直在尝试开发能够识别情感的 AI，尽管一些公司声称已经取得突破，但这一技术的基础仍然存在争议。大多数情感识别系统都基于心理学家 Paul Ekman 的理论，即人类有六种基本情绪：愤怒、惊讶、厌恶、喜悦、恐惧和悲伤。然而后续的研究表明，来自不同文化背景的人们在表达情感时存在显著差异，这使得情感识别的普遍性受到质疑。

　　 伦敦国王学院的人工智能研究员MikeCook指出，情感识别在大多数情况下难以实现，因为人类的情感体验极其复杂。尽管我们能够通过观察他人的行为和表情来猜测他们的情绪状态，但要全面准确地解决情绪检测的问题仍然存在巨大挑战。 从我的角度来看，MikeCook的观点揭示了情感识别技术当前面临的根本局限性。虽然随着技术进步，机器学习算法已经能够在某些特定情境下识别基本的情绪表达，例如快乐或悲伤，但要达到真正理解并准确解读人类复杂而微妙的情感状态，还有很长的路要走。这不仅需要更先进的技术手段，也需要对人类情感本身有更深入的理解。因此，在开发相关技术时，应当谨慎对待其应用范围和潜在伦理问题。

　　 情感识别系统在实际应用中存在不少问题，尤其是在可靠性和偏见方面。据一些研究显示，面部分析模型可能对某些特定表情，例如微笑，有较高的识别率，而在其他表情上则表现不佳。此外，最新的研究结果指出，情感分析模型对于不同肤色的人脸存在明显的偏见倾向，尤其是对黑人面孔的情绪判断往往更为负面，这与对白人面孔的情绪判断相比显得尤为明显。 这种现象不仅反映了技术上的局限性，更揭示了算法背后潜在的社会偏见问题。开发人员在设计和训练这些系统时，需要更加注重数据集的多样性和平衡性，以确保技术的公平性和准确性。否则，即使是最先进的技术也可能无意间放大现有的社会不平等，从而加剧种族间的误解和矛盾。因此，加强技术伦理审查和技术透明度变得尤为重要，以确保情感识别系统能够真正服务于人类社会的进步，而非成为新的歧视工具。

　　 谷歌表示，PaliGemma 2 在进行“广泛测试”后，评估了其在人群偏见方面的表现，结果显示其“毒性和粗俗内容的水平低于行业基准”。但该公司并未公开测试所依据的完整基准，也没有明确表示所进行的测试类型。谷歌披露的唯一基准是 FairFace—— 一个包含数万张人像的面部数据集。谷歌声称，PaliGemma 2 在该数据集上的表现良好，但一些研究者批评 FairFace 存在偏见，认为该数据集仅代表少数几种族群。

　　 AI Now 研究所首席 AI 科学家 Heidy Khlaaf 表示，解读情绪是一件相当主观的事情，它超越了使用视觉辅助工具的范围，深深地嵌入在个人和文化背景中。

　　 据了解，欧盟的《人工智能法案》禁止在学校和工作场所部署情感识别系统，但允许其在执法领域使用。

　　 Khlaaf指出，若这种所谓的情感识别技术基于的是未经验证的假设，那么它可能被滥用，成为加剧对边缘化群体歧视的工具。这种技术若被应用于执法、人力资源管理以及边境控制等领域，有可能导致不公正的结果。例如，在招聘过程中，情感识别系统可能会带有偏见，从而影响某些群体的职业发展机会；在执法领域，它也可能被错误解读为犯罪倾向的依据，进而影响到个人的自由与权利。 我认为，尽管情感识别技术拥有潜在的应用价值，但必须谨慎对待其开发与应用过程中的伦理问题和技术偏差。确保该技术的公平性和透明度至关重要，否则不仅无法带来预期的社会效益，反而可能成为新的社会问题的根源。因此，政府和企业应当加强对这类技术的监管，并制定相应的规范来防止其被不当使用。同时，科研人员也应致力于提升技术本身的准确性和可靠性，减少误判的可能性。

　　 谷歌方面表示，公司对PaliGemma2的“表征危害”测试充满信心，并进行了广泛的伦理和安全评估。 这一声明表明谷歌在推出新技术时，依然秉持着严谨的态度。面对日益复杂的科技伦理问题，谷歌的做法无疑为其他科技企业树立了良好的榜样。通过全面的安全和伦理评估，谷歌不仅致力于推动技术进步，同时也注重保护用户权益和社会公共利益。这不仅是对自身产品负责的表现，也是对整个社会负责的体现。谷歌此举有助于增强公众对新兴技术的信任，促进科技与社会的和谐发展。