大会强调,就本决议而言,“安全、可靠和值得信赖的人工智能系统”是指非军事领域的人工智能系统,必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。
如果诸如Alphabet公司、苹果公司、Facebook公司,或者特斯拉公司等的威力不受公共利益的约束,人类可能最终沦落到一个由公司主导的世界,如玛格丽特·阿特伍德的小说《羚羊与秧鸡》或大卫·福斯特·华莱士的《无尽的玩笑》中所描述的那样。“剑桥分析”的丑闻给我们敲响了警钟。马克·扎克伯格2018年4月10日对美国议员做出的证言揭示出资深立法者对互联网公司依赖市场数据的经营模式多么无知。这种无知为公司走向权力铺平了道路。