放弃高薪发声!“AI 教父” 揭露 AI 行业逐利真相

被誉为“AI教父”的杰弗里·辛顿,再次向全球敲响AI发展的警钟。这位深耕人工智能领域数十年、拿下诺贝尔奖与图灵奖的先驱,在最新访谈中毫不避讳地指出,当下科技行业陷入逐利怪圈,企业眼里只有短期收益,完全漠视AI技术带来的长期社会风险与生存隐患。这番尖锐表态,撕开了AI热潮下的行业遮羞布,也让大众看清技术狂奔背后的隐忧。

企业一门心思赚快钱,只顾眼前不顾长远

辛顿在接受《财富》杂志访谈时说得很直白,现在AI行业的核心推动力,早就不是钻研技术、布局长远,而是资本想要快速拿到回报。对科技企业来说,推出AI产品、更新技术模型,最先考虑的是抢占市场、抬高股价、赚到利润,研发过程里很少琢磨技术落地后,对就业、社会秩序甚至人类生存会埋下哪些隐患。

他直言,企业决策者和研发人员的心思,全都放在眼前的商业收益和短期问题上,不会提前预判技术最终会发展成什么样子,更不会定下守护人类未来的研发底线。为了更快盈利,企业纷纷卷入AI研发的比拼,匆忙推出没经过充分安全测试的产品,压缩安全研发的成本,把效率和收益放在第一位,安全管控反而成了次要的事情。

这种一心逐利的心态,让AI发展偏离了理性的轨道。企业为了压缩成本、提高利润,不停用AI替代人工岗位,埋下大规模失业的隐患,还拉大了贫富差距。辛顿测算过,超级智能出现后,AI给人类带来灭绝风险的概率高达10%到20%,这份沉重的风险,在企业追求的短期利润面前,几乎被完全忽略。

苦口提醒没人听,行业盲目跟风卷不停

早在2023年,辛顿就辞去了谷歌的职务,放弃了丰厚的待遇,只为能更自由地发声,提醒大家警惕AI带来的风险。当时他就察觉到,科技巨头内部虽然有过安全方面的考量,但在市场竞争和业绩压力下,风险防控的措施往往很难落地执行。企业担心放慢研发节奏,会被竞争对手抢走市场,就算明知道存在隐患,也不愿意停下逐利的脚步。

行业内的跟风内卷越来越严重,各家企业扎堆研发通用大模型、消费级AI产品,全都往能快速变现的领域投入,针对AI安全机制、伦理规范、长期风险管控的投入少得可怜。辛顿多次发出提醒,在资本和业绩面前显得格外无力,多数企业把他的话当成危言耸听,依旧按照既定的商业节奏,匆忙推进技术落地。

普通大众对AI风险的认知也十分有限,只顾着享受AI带来的便利生活,很少关注技术失控的可能性。行业和大众都对风险视而不见,让AI发展的隐患不断累积,一旦出现安全漏洞或者技术失控,造成的后果根本无法挽回。

想破局就得平衡利弊,重新定好发展规矩

面对AI行业一心逐利的乱象,辛顿不只是提出批判,也给出了清晰的解决思路。他提出,不能任由资本主导AI发展,必须建立统一的规则,约束企业的逐利行为,让短期利润和长期风险防控达到平衡。

针对AI被恶意滥用的问题,要推行视频、图像溯源标记,从源头管控风险;针对AI自主作恶的潜在可能,要重新构建人机关系,借鉴母婴模式,为AI注入利他的机制,让技术始终抱着守护人类的初衷。同时,全球科技行业应该达成共识,建立统一的安全标准,禁止匆忙推出高风险AI产品,强制企业预留出安全研发的经费。

对企业来说,想要长久发展,不能只盯着眼前的收益,要承担起对应的社会责任,把风险管控融入研发的每一个环节。对监管层面来说,要加快出台AI监管细则,划定行业不能触碰的红线,约束那些忽视风险、盲目逐利的企业。对普通从业者来说,要保持理性,不盲目卷入内卷,坚守技术研发的底线。

辛顿的表态,是为了让AI回归服务人类的本质,而非阻碍行业发展。AI行业的未来,不该成为资本逐利的竞技场,兼顾商业收益与长远风险,才能让技术真正造福社会,避免陷入无法挽回的危机。