日喀则地震有人AI生图扰乱民心

  问道者|李 百

  多数国人都在为西藏日喀则定日县受灾群众担心的时候，有人却利用这场地震引流。最近，有一张让人揪心的“小孩被埋图”被大量转发，吸引了无数流量。后来新华社报道指出，这张图片是人造假图。

  在摄影史上，一些新闻照片因为可遇而不可求的拍摄时机而成为受到广泛关注的经典。比如《饥饿的苏丹》，呈现的是一只秃鹫凝视着一个骨瘦如柴小孩；还有《战火中的女孩》呈现了一个女孩挣脱烧着的衣服，张开双臂逃离燃烧弹爆炸区的瞬间。这些新闻照片在过去不可复制，在现在的AI技术面前足不出户就可以炮制了。

  其实，在新华社拔乱反正之前，央企国投智能官微就通报，他们公司已经运用“美亚内容鉴真平台”鉴别出，这是一张由AI合成的“新闻图片”。这张AI图片只是为了哗众取宠博取流量，对救灾不仅没有任何帮助，反而起到了扰乱民心的作用。

  AI技术越来越成熟后，类似为了博取流量或牟利而炮制AI图片和视频的事情，正越来越多地发生在我们的视野之内。

  根据《法治周末报》的报道，在英国，一名利用AI生成虐童图像获利的男子落入了法网；在美国，威斯康星州警方前不久抓捕了一名犯罪嫌疑人，这位嫌犯涉嫌使用AI制作超过1.3万张儿童性虐待图片；在韩国，有一名男子因为使用AI制作360度虚拟儿童虐待图像，在2024年9月被抓。当然，这三个人最后都会被判刑，美国嫌犯可能面临70年监禁的严厉处罚，英国男子已经获刑18年，韩国男子获刑两年半。

  利用AI技术非法牟利怎么处理，目前国内还没有明确的法律，“小孩被埋图”是否受到处罚目前也还没有下文。不过，利用AI非法牟利已有判例。

  去年广州互联网法院审结的“AI换脸第一案”有一定代表性。一家科技公司用一位知名短视频女博主的现有视频，借助AI换脸技术合成了另一段视频发布在网上供用户付费使用。法院最后裁定这家科技公司侵犯了知名短视频女博主的肖像权。

  用日新月异来形容现在的AI图像生成技术并不为过，AI生成的图像“以假乱真”并不是危言耸听，最近发生的“小孩被埋图”就是一个活生生的例子。如果不法分子利用AI技术犯罪，一般老百姓肉眼难辨，只有专业机构才能应对。对此，北京大学法学院教授在《法治周末报》提出，对于提供AI技术的平台而言，不是任何情况下都可以用“免责条款”一推了事，平台有维护网络社会合法秩序的一定责任。

  不过，AI技术让肉眼难辨，AI技术也帮助人类提高了鉴别真伪的能力。按照国投智能官微介绍，“美亚内容鉴真平台”同样是建立在AI技术基础上的鉴别技术，它可以支持人工智能生成视频图像、音频和文本等多媒体内容的检测溯源。