丁贵广：研究AI要有约束力 核心目标是为人类服务

来源：商业周刊

8月19日，由彭博商周主办、全新一代揽胜运动担任战略合作伙伴的CITYLAB“前瞻·进取·思想汇”在北京颐和安缦酒店举办。在“创新赋能未来”的主题之下，从创新思维运用，到前沿科技观察；从未来商业模式，到赋能企业经营，作为一场汇聚行业精英、创新领袖的精致盛会，CITYLAB“前瞻·进取·思想汇”北京论坛将集聚先锋观点，以卓然眼界，共同书写“胜临其境”的时代新篇。

在圆桌论坛环节，清华大学软件学院副院长、教授、信息科学与技术国家研究中心副主任丁贵广和远景智能首席科学家邱林共同参与，就“科技创新前沿观察”的主题展开讨论。自2022年11月 ChatGPT横空出世以来，人工智能(AI)再次成为各大行业竞相逐鹿的焦点。在计算机视觉和深度学习领域深耕多年的丁贵广针对AI发展的历史进程、应用前景、现阶段面临的挑战等方面分享了自己的观点。

丁贵广指出，AI技术经历了三个发展阶段：第一阶段以1956年的达特茅斯会议为起点，当时业界出现了一些AI算法及模型，但由于在应用过程中和产业结合较少，难以落地，所以衰落下来；第二阶段是在1980年代，AI开始有了一些经典应用，例如在文字识别方面产生了比较好的应用效果，这一波AI浪潮后来衰落下来的原因是，当时正值互联网和PC发展的高峰，学术界和产业界更多投入了这些方向，AI没有受到足够重视；第三阶段始于2006年，被誉为“人工智能教父”的Geoffrey Hinton在《科学》（Science）杂志上发表了深度学习的论文，首先在学术界引起轰动，2012年左右产业界也开始关注，中国的“AI四小龙”（商汤科技、旷视科技、依图科技、云从科技）凭借在计算机视觉领域的能力取得快速发展，人们熟知的人脸识别就是这一时期出现的代表性应用之一。

丁贵广认为，如今我们仍然处于AI发展的第三阶段。“2022年底之前，学术界和产业界一度认为，这波AI发展已经到了一个顶端，无论是产业界的投资还是应用都遇到了非常大的瓶颈。”但ChatGPT的出现为AI的发展打了一剂强心针。国内外围绕ChatGPT或AI大模型的投资和产业推动，在今年上半年迎来爆发式增长。丁贵广预测，“这波AI技术发展封顶的位置，应该在未来2-3年会看到，大模型技术的产业化能深入到什么程度，决定了AI第三波浪潮会走到哪儿。”

AI大模型的持续发展面临的最大挑战之一是能耗问题。由于AI大模型的数据训练需要庞大的数据中心在作为基础支撑，要避免上百万台服务器出故障，就需要用水来进行冷却散热，以保证设备运行温度在合理范围内。这也间接导致了AI成为“耗水大户”。

“大模型无论是训练还是推理都非常耗资源，训练ChatGPT需要几百万美元的算力资源，推理过程中每次查询的成本在人民币1元左右。”丁贵广表示。随着未来AI大模型产业化和应用的普及，他认为这些问题可以得到一定程度的解决。例如，在模型层面，可以对模型做剪枝、量化，在基本不损失其推理能力的条件下，使计算资源消耗得更少。另一种思路是在算力层面上解决，“现在我们是用GPU模型，GPU计算范式也会有改变，从芯片设计角度，前沿有光电计算、量子计算，未来算力上也会一定程度上解决功耗的问题。”

除了能耗问题，AI大模型的落地应用还面临诸多挑战，其中安全问题尤其受到使用者及政府监管机构的担忧。丁贵广指出，安全性问题有三个层面，一是大模型生成内容的安全问题，即生成的内容要符合政治标准、伦理标准、道德标准；二是大模型本身的安全问题，大模型部署之后有可能被外面的技术（如黑客）渗透，产生不应该产生的内容；第三是大模型在实际部署过程中涉及的管理安全问题，如果指定相关法律和法规保证大模型提供者不会故意设置相关安全后门。

“解决好这些（安全）问题，是第三波AI发展未来能不能继续推动产业向更进一步，真正让核心产业落地的关键。”丁贵广说。

关于AI是否会对人类造成威胁，丁贵广认为，目前这种可能性不高，至少在十年内不会发生，但在学术层面和管理层面“确实需要提前布局”。据他介绍，清华大学已经成立了AI伦理委员会，“对研究AI我们要有约束力，核心目标是为人类服务，而不能是损害人类或消灭人类。”

虽然AI在短时间内不会成为人类的敌人，但却有可能代替部分人类工作。正如机械化、自动化生产取代了过去的农耕文化，未来智能化也可能取代现在的劳动力。“从技术发展来说，这个趋势不可避免。智能化以后，有的人会失业，（我们需要）从社会层面、经济层面以及教育层面，让这些人发挥更大的作用。”丁贵广总结称，AI技术在一些领域取代人类不可避免，我们必须面对技术的进步和技术的挑战，虽然AI可以让部分人失业，但也会带来更多不同领域的就业机会。