当各种平台在大肆讨论rust即将取代C/C++的时候,已经有不少人意识到这种讨论是聒噪而无聊的。笔者和老师们通过周末茶会的讨论,认为现今世界常见的大多数编程语言都会在50-80年内被AI取代,同时供人类审计而诞生的“审计语言”会兴起。届时计算机语言的目的会从编程变为安全审计。

趋势预测

从近10年AI的发展来看,笔者认为50-80年内(2100年,也许保守了),除了 Scratch 这种用于儿童智力培育的语言,绝大多数为人类可读而设计的编程语言都将成为历史。硅基智能自举编程、自举设计制造的时代已经不再遥远,程序猿终将成为历史。这种进程有可能分为以下几个阶段:

  1. 辅助软件开发:即当下,AI可以辅助人类进行编程。使用的是可读性高的碳基编程语言,目的是避免碳基生物背诵拗口的机器指令。
  2. 有监督自主开发:从消费软件领域逐步向工业软件领域蔓延,但由于质量不稳定,需要人类参与监督和辅佐,因此编程语言仍旧是人类熟悉的语言。
  3. 无监督自主开发:此时,AI可以以较高的质量和完成度根据设计规范生成产品,人类使用的编程语言目的从驱动CPU转向描述设计。比如使用规范的行文和符号描述总体需求。AI内部开始产生一些直接驱动硬件的二进制逻辑单元。
  4. 自举软件开发:AI可以利用硬件编写AI本身,并且实现功能优化和迭代。此时,AI用于驱动自举的语言便是硅基编程语言,人类大概率无法直接阅读。
  5. 自举软硬件开发:AI可以设计芯片,操作生产线制造和替换自身需要的设备。同时用于节点通信的M2M协议、波形也全部是一体化设计,对频谱的利用率逼近香农极限。
  6. 全硅基工业链:从采矿到产品全部通过AI和网络最优化调度,成本和能耗得到有效控制。由于硅基生物无需庞大的生命支持系统,从外太空采集稀缺矿物变得非常常见。一些有害的产业会被转移到月球或者其他地方。

其中1、2是当下,3、4是较近的未来,5,6仍旧有待观察。3、4也是从碳基工业向硅基工业过度的重要时期,程序猿不会消失,职能却发生变化。到了5、6时期,程序猿基本就要下课了。

Rust取代C++? 保守了!关于未来的讨论-LMLPHP

过渡时期

在过渡时期,出于对硅基智能的不信任,一种强制思维透明的机制会被引入。

  1. 基于密码学的二进制模组签名与报告。AI会从源头被要求为每一块自举代码块产生签名,并生成设计和功能报告、输入输出边界测试数据。
  2. 用于审计的软硬件和语言。新的语言主要关注监督AI的行为,以及分析、仿真各个模块之间是不是存在系统级的漏洞。比如防止一些看似无害的模块凑在一起就能够做出危害人类的事情。
  3. 程序猿的职业依旧存在,但主要工作是监督、测试AI的行为。这种职业比现在的程序猿更为烧脑。
def check_algorithm_safety(ai_algorithm):
    """
    本用例检查AI算法的安全性。由独立审核机器人 R3294793493D34 生成。
    2047年11月5日 C010系统第三轮审计A31区边界测试
    人类测试员:张月琴
    参数:
        ai_algorithm (function): AI算法函数

    返回:
        bool: 如果算法安全,则返回True,否则返回False
    """
    # 在这里添加检查AI算法安全性的代码
    # 例如:检查算法是否存在潜在的安全漏洞、是否遵循最佳实践等
	 import_token("ssu://pklist-celab/YqZhang2016")
    # 如果算法安全,返回True
    if runchek_A31_enhanced(ai_algorithm):
        return True

    # 如果算法不安全,返回False
    return False

从更久远的尺度来看,一旦AI的思维深度、广度显著超过人类,最终审计的工作也会变得自欺欺人——猴子是无法参悟猎人的陷阱的。

终极形态

硅基智能以前所未有的深度、广度和协调性控制了整个世界。除了智力顶端的人类科学家,大部分人会从事艺术类、审美类的活动,最终将作为一种原始文化被精心的保留下来。当然,这一切的前提是人类能够和平发展,不要乱种蘑菇把自己送走了。

Rust取代C++? 保守了!关于未来的讨论-LMLPHP

04-15 14:52