好东西要分享

AI下海 | 技术逐渐成熟的道德困境

现在人工智能已经走进了人们的生活当中,AI市场现在也很火热,各种你想不到的技术都在出现,正因为如此,很多行业也都想借此利用这样的市场,日本的业界也不会放过这样的一个馒头。近期日本就有人制作了一个AI人物叫【日比古凛】。【日比古凛】最开始的设定就是一名AI美女,创作者还给了她一个身份:现役女大学生,平日里是个优等生的形象。然后,创作者就让AI美女“下海拍写真了”。创作者搞出了252张1920*1080的AI绘图装订成册,制作成写真集并且由FANZA平台进行零售。从目前的消息来看,这是日本第一例ai人物进入FANZA,并且【日比古凛】这个身份可能接下去还会有更多的写真,甚至包括动态写真可能也会出现。就目前从FANZA售卖AI绘图写真的操作来看,某业对于AI的兴趣很大,之前也有消息称,目前有些制作商的封面图也已经开始用起了AI技术。而在FANZA之前,日本【集英社】也制作了一个AI人物【さつきあい(五月爱)】,让这个AI人物出现在旗下的杂志《PLAYBOY》中,并且连AI人物的sns都做出来了,但是后面不知是因为被指训练模型可能用了【浅仓唯】还是什么原因,这个计划就被搁置了,AI人物的SNS也注销了,人物也撤掉了。从这些消息来看,“AI下海”从目前现有的技术来说,可能真的不会太遥远。但是!在这个过程中,随着AI技术越来越成熟,也暴露出了一些技术带来道德问题。技术并没有好坏之分,但是怎么去运用技术会产生不同的结果;对于AI制作,目前比较有争议的是版权问题,因为AI需要训练模型,现如今下个模型包,不管原画师同不同意,他们的原创作品都逃不掉会成为AI训练包的一部分。比如Stable Diffusion引发争议的点就是,它对于艺术与画作的版权很不尊重,又缺乏监管,引发的争议就很大。另一方面就是,现实人物也可能被拿来作为训练素材,就比如集英社做出【さつきあい】就被指说应该是用了【浅仓唯】和【椛島光】的脸作为训练模型。那这对于被拿来作为训练模型的真人来说,是不是也是一种肖像权的侵犯?不过以上的这些消息,不管是【日比古凛】还是【さつきあい】,都是处于AI绘图,用模型训练出来的全新人物,还是能分辨的出来AI制作的痕迹。除此之外,其实有一种技术是可以做到让人分不清真假的AI技术,那就是AI技术的深度伪造问题,这也是当下,ai技术背景下的一种信息安全隐患。相比于用模型去创造一个全新的人物,AI换脸技术可以仅凭一张照片,就让这个人“下海”>早在AI技术刚起步的时候,就有“AI脱衣”、“AI换脸”的情况,几年前就有,但是现如今随着AI技术的发展,相应的使用门槛也越来越低,绝大多数开源脚本都会告诉你“禁止用于非法用途”,但这并不能有效监管,对于脚本的使用,最终也只能靠使用者自身的道德约束。比如说AI换脸,现如今甚至只要一张照片,就能做成视频。现在在一些短视频上也能看到很多AI换脸的产物,一些app也仅需要简单操作就可以生成,一些适度玩的视频或许可以被当作是“娱乐”。然而,正是由于AI技术的强大和普及,一些人开始利用它来进行恶意行为。通过AI换脸技术,他们可以利用一张照片,将一个人的面部特征应用于另一个人的视频中,制作出逼真的虚假视频。这种虚假视频可以被用于制造假新闻、捏造证据、恶意攻击个人或组织,带来混乱和伤害,且这种伤害对于受害者的尊严几乎是不可逆的。此外,AI技术的进步也使得自动化的恶意信息生成变得更加容易,例如自动化的恶意社交媒体账号、虚假评论和舆论操纵,也就是AI可以参与网暴和控制舆论。之前就出现了“地铁女孩”的事情,那女孩也没招谁惹谁,被人拍了张照片,然后通过AI换脸做成一张裸露图片,在传播时加上一些侮辱性词汇,一个黄谣就被造出来了,但是这种黄谣一传出去,然后演变出更多的侮辱性词汇。本身造谣的成本是非常低的,再利用AI技术去加强谣言的可信度,有些信息我们作为旁观者都无从分辨真假,那对于受害者来说,想洗清这些东西真的很难很难。技术越成熟,门槛越低,相关的事件也会越多,在这种基础上,AI技术甚至可以延伸出AI诈骗、AI敲诈、AI伪证等现象。而目前为止,我们对于AI技术与道德层面问题的冲突,可能只能寄托于开发者对于AI的道德训练。技术的发展本身是一种进程,但是在这个过程中,每一种新的技术都会变成一把双刃剑,它有正的一面,也会出现反的那一面,比如说网络的高速发展也演变出网络暴力,但这种问题又延伸了很多追索难题,现如今上网并没有门槛,没有门槛就导致了有一部分人在网络上并没有自我约束的能力。其实还有更过分的,最近一年以来,在一些网暴中,总少不了会出现一些造谣的,因为有热度,很多人凑在一起,就会有人利用热度来博眼球,于是就各种造谣,什么虚假的聊天记录,更有甚者,拿着照片就用AI开始整活,然后不断地被传播。我也不知道从什么时候开始,网上的氛围出现了一种戾气,戾气很快的聚集起来,用各种方式去攻击他们所看不惯的人,仅凭片面的消息就单方面的判定一个人的好坏,他们摧枯拉朽如飓风过境,永远在追逐下一个热闹,留下满地狼藉去给被攻击的人独自消化而我们对于这种戾气是无能为力的,想要构建一个和谐你我他的网络环境,只能是提高公众意识和道德素养,但是现在感觉说这种话题就是很空,说了也没什么作用,就像前几天有人跟我说:有些梗一点都不好笑,但是玩这些梗的人是意识不到这个梗很烂的。