当各种平台在大肆讨论rust即将取代C/C++的时候,已经有不少人意识到这种讨论是聒噪而无聊的。笔者和老师们通过周末茶会的讨论,认为现今世界常见的大多数编程语言都会在50-80年内被AI取代,同时供人类审计而诞生的“审计语言”会兴起。届时计算机语言的目的会从编程变为安全审计。
趋势预测
从近10年AI的发展来看,笔者认为50-80年内(2100年,也许保守了),除了 Scratch 这种用于儿童智力培育的语言,绝大多数为人类可读而设计的编程语言都将成为历史。硅基智能自举编程、自举设计制造的时代已经不再遥远,程序猿终将成为历史。这种进程有可能分为以下几个阶段:
- 辅助软件开发:即当下,AI可以辅助人类进行编程。使用的是可读性高的碳基编程语言,目的是避免碳基生物背诵拗口的机器指令。
- 有监督自主开发:从消费软件领域逐步向工业软件领域蔓延,但由于质量不稳定,需要人类参与监督和辅佐,因此编程语言仍旧是人类熟悉的语言。
- 无监督自主开发:此时,AI可以以较高的质量和完成度根据设计规范生成产品,人类使用的编程语言目的从驱动CPU转向描述设计。比如使用规范的行文和符号描述总体需求。AI内部开始产生一些直接驱动硬件的二进制逻辑单元。
- 自举软件开发:AI可以利用硬件编写AI本身,并且实现功能优化和迭代。此时,AI用于驱动自举的语言便是硅基编程语言,人类大概率无法直接阅读。
- 自举软硬件开发:AI可以设计芯片,操作生产线制造和替换自身需要的设备。同时用于节点通信的M2M协议、波形也全部是一体化设计,对频谱的利用率逼近香农极限。
- 全硅基工业链:从采矿到产品全部通过AI和网络最优化调度,成本和能耗得到有效控制。由于硅基生物无需庞大的生命支持系统,从外太空采集稀缺矿物变得非常常见。一些有害的产业会被转移到月球或者其他地方。
其中1、2是当下,3、4是较近的未来,5,6仍旧有待观察。3、4也是从碳基工业向硅基工业过度的重要时期,程序猿不会消失,职能却发生变化。到了5、6时期,程序猿基本就要下课了。
过渡时期
在过渡时期,出于对硅基智能的不信任,一种强制思维透明的机制会被引入。
- 基于密码学的二进制模组签名与报告。AI会从源头被要求为每一块自举代码块产生签名,并生成设计和功能报告、输入输出边界测试数据。
- 用于审计的软硬件和语言。新的语言主要关注监督AI的行为,以及分析、仿真各个模块之间是不是存在系统级的漏洞。比如防止一些看似无害的模块凑在一起就能够做出危害人类的事情。
- 程序猿的职业依旧存在,但主要工作是监督、测试AI的行为。这种职业比现在的程序猿更为烧脑。
def check_algorithm_safety(ai_algorithm):
""" 本用例检查AI算法的安全性。由独立审核机器人 R3294793493D34 生成。 2047年11月5日 C010系统第三轮审计A31区边界测试 人类测试员:张月琴 参数: ai_algorithm (function): AI算法函数 返回: bool: 如果算法安全,则返回True,否则返回False """
# 在这里添加检查AI算法安全性的代码
# 例如:检查算法是否存在潜在的安全漏洞、是否遵循最佳实践等
import_token("ssu://pklist-celab/YqZhang2016")
# 如果算法安全,返回True
if runchek_A31_enhanced(ai_algorithm):
return True
# 如果算法不安全,返回False
return False
从更久远的尺度来看,一旦AI的思维深度、广度显著超过人类,最终审计的工作也会变得自欺欺人——猴子是无法参悟猎人的陷阱的。
终极形态
硅基智能以前所未有的深度、广度和协调性控制了整个世界。除了智力顶端的人类科学家,大部分人会从事艺术类、审美类的活动,最终将作为一种原始文化被精心的保留下来。当然,这一切的前提是人类能够和平发展,不要乱种蘑菇把自己送走了。
文章评论