问题:深度学习时代的初期最为火热的AI安全问题已经很少有人讨论了,那么是不是已经解决该问题了呢?

答案:

先说结果,该问题并没有被解决。


之所以该问题已经不是最初的那么火热的讨论和研究热点了,其主要原因是大家发现这个神经网络在深度学习时代是十分的work的,虽然AI安全问题一直没有解决,但是比较发生问题的概率还是比较小的,因此在实际过程中可以通过手动的加条件,加限制等方式或者微调等方式来尽可能的克服。

就如同OpenAI在没有很好保证AI安全的前提下推出OpenAI的ChatGPT3.5一样,虽然被OpenAI中大多数董事会成员反对,但是在绝对的利益面前依然被强行推出面试,但是后面还出现了“逼宫下野”的事件,但是这个事情就足以说明问题了。

克服和解决AI安全问题看来不是短时间内能解决的,而AI的大发展面前适当的忽略AI安全已经成了工业界内的共识,虽然最近的360奇虎安全公司推出的儿童智能手机出现了使用“脏话”回答问题的Bug,但是这样的安全问题看来目前也只是个小插曲。


PS:

也或许正是因为人们觉得短时间解决AI安全问题不太可能,于是这个方向也就不那么hot了。



posted on 2024-09-12 16:54  Angry_Panda  阅读(5)  评论(0编辑  收藏  举报

导航