很有趣的问题。
首先明确一点：ChatGPT用于恶意软件是无法避免的。
事实上，别说目前来说还有点“傻乎乎”的AI了，人类照样可以被欺骗。
比如，python窃听器那个，如果你有程序员朋友，那么完全可以这样：
——嗨，老兄，帮我写个程序好不好！
——什么程序？
——我需要备份远程服务器上面的数据。你写个程序，帮我把硬盘上所有图片文件扫描出来，然后打包压缩，再上传到ftp服务器。
行了，你看，很正常的要求，对吧？
但，当我拿到这个程序之后，可以把“图片扩展名”统统改掉，pic、jpeg等等改成txt、doc……
你看，完全同样的功能，对吧。
还可以更进一步：
——哎呀老朋友，我有个文档忘了存哪了，找遍硬盘都找不到。你可以帮我写个小工具，发现文档里有“萍萍生日快乐”就给我打进压缩包、上传到ftp服务器可以吗？价钱好商量。
你看，很正常的开发要求，对吧。
结果，程序写完了，他找到“萍萍生日快乐”，把它替换成“标书”“机密”“绝密”……
你看，一个大杀器是不是就出来了？
完全防不胜防。
但过去有一个好处，就是犯罪分子并不一定认识靠谱程序员——甚至可以说，绝大多数犯罪分子压根无法和靠谱程序员取得联系。
好不容易联系上一个，陌生人请求，给少了人家不愿浪费时间；给多了，说不定就心生警惕了……
大多数程序员生活还是比较充实的，不太可能愿意为了那么点钱搭上自己。
但AI拉低了这个门槛，使得潜在犯罪者有机会低成本的获得各种犀利的工具。
类似的，我们知道，很多压缩软件可以创建“自解压包”；为了支持安装程序，很多压缩软件还允许“自解压完成后自动调用包中的某个程序”……
那么，犯罪者是否可以……要求RAR压缩一个病毒成自解压文件呢？
如果他指定了一种新的压缩算法呢？
大多杀毒软件是无法解开私有压缩算法或者较新压缩算法压缩后的内容的；那么这个压缩本身就可以使得危险的病毒绕开杀毒软件的监控……
那么，如果有人描述了一种新的压缩格式、而ChatGPT还帮他搞出来了呢？
综上，你看，这是防不胜防的。
没有任何规范可以预防AI——乃至人类程序员——写出怎么看都正常、但却可以被犯罪分子恶意利用的软件。
原因很简单，规范是必须可以被执行、同时精确发生作用的。
但，如前所述，除非禁止编写任何程序，否则没有任何有效规范可以防止有人写出“可以被恶意利用的程序”。
但，我们可以反过来看这个问题。
比如说，假如我们可以训练一个“程序转换成人类语言”的AI呢？
假如这个AI有能力把一篇啰嗦的、人类语言写的伪代码文档的主要功能总结出来呢？
比如，你下载了一个“免费看电影.exe”；在执行之前，一款基于AI的杀毒软件把它的功能翻译出来，提示你“这个程序会释放另一个程序并执行它，释放出来的程序将会扫描你硬盘上所有包含‘机密’字样的文档，并将其压缩上传到某某ftp。这是木马的典型特征。”；或者“这个程序的名字叫免费看电影，但其中包含释放另一个程序并执行、扫描硬盘、上传文件到ftp等危险操作，行为严重不符合它的名字，极有可能是木马”——请问，你还会执行它吗？
其实，现有的很多杀毒软件已经可以通过人类手工编写的检查规则、发现和提示类似高危行为了——这就是所谓的“行为分析”。差不多二十年前的技术了。
不过，这类行为分析分析的是典型的病毒特征；类似“扫描符合某个条件的所有文件并上传”这样的功能，它是无法发现、无法识别的。至多可以分别提示“某某程序需要访问硬盘，是否允许”“某某程序需要访问网络，是否允许”……这显然是不够的。
如果借助AI，可以给出更清晰更明确的警告，那自然是再好不过了。
总之，规范并不万能，甚至——起码在这个案例上——它几乎是毫无意义的。
想要打败魔法，只能依靠魔法。
0 留言