2018.07.25
不过这份承诺书只提及了机器人AI,没有提及应用于网络安全的软件AI,后者在目前国际冲突背景下使用更频繁。
在网络安全应用上,AI可以保护系统,也能自主瞄准并反击来自另一端的攻击。如果是国家间的网络冲突,很可能会严重损害国家基础设施,比如导致全国停电,或者篡改空中控制系统。
以人工智能的发展速度来看,制造出未经人类控制者同意下,可以识别、跟踪和射击人类目标的 AI 机器并非天方夜谭。意味着机器可以掌握人类的生杀大权。目前,除了用道德和舆论施压,并没有政府出台法律和规范有效控制杀手机器人的发展。
发起这一承诺书的组织,波士顿的生命未来研究所(Future of Life Institute),希望能够以此呼吁各国政府商定相关规范、法律。