2020年，浙江杭州的虞某接触了“AI换脸”软件。为吸引流量，他利用该软件制作大量淫秽视频并传播，被换脸的有不少是女明星。虞某声称，“只要能看到脸的都能换。”有人甚至要定制暗恋女生的换脸视频。最终，虞某犯制作、传播淫秽物品牟利罪，被判有期徒刑七年三个月，并处罚金6万元。 （央视新闻报道）
AI本应是造“福”工具，这项技术被开发的目的是造福公众，却随着越来越多的AI技术滥用，尤其是用作色情内容的换脸行为，惹下了涉及法律风险、道德争议和隐私侵犯的诸多“祸”。AI是“福”还是“祸”，关键在于公众、平台、法律三方的管理和约束。
首先，公众应自规自律。这里可以分成两类情况：其一，需求带来市场，这类公众出于自身需求寻求涉黄AI内容产品，因此带动了AI换脸市场；其二，市场创造利益，这类公众为了谋取不当利益，把科技当成犯罪的工具。与此同时，爱情不是行为失范和违法的理由，为了满足一己私欲而利用他人隐私进行非法活动，严重违背社会公德和伦理原则。用暗恋女生的头像换脸可能加剧社会信任危机。当人们发现自己的照片被他人恶意使用时，可能会对社会的诚信体系产生怀疑，从而降低人与人之间的信任度。这种信任危机对社会的发展和个人权益的保护都是十分不利的。不论哪种情况，公众都应恪守道德遵守法律。
其次，压实平台监管责任。涉黄AI换脸案暴露出互联网平台监管存在的漏洞和不足，需要平台进行更深入的研究和改进，以确保其能够更好地服务于人类社会。坚持依法依规，着力提升互联网平台监管的规范性和法治化。平台对于技术滥用、非法内容要加大监管力度，拓宽监管路径，达成与公众协同共治，合力净化网络环境。
最后，立法势在必行。当道德无法约束非法行为时，法律就要重拳出击。当AI技术的运用徘徊在提升人民福祉和谋取不当利益的时候，法律就成了人们悬崖勒马的“准绳”。尽管我国的法治体系已经很完善，但聚焦于科技进步产生的新现象，相应法律法规应不断改革更新，以期更有针对性地约束和处理新技术违法行为。
技术的发展需要公众、平台和法律三方的约束，以确保其健康、有序地发展。诚然，我们期待AI技术能够在更广泛的领域造福人类，但我们也应时刻警惕技术会带来的“恶果”。 张川
|
