【AI快讯分析】Character.AI与谷歌达成协议,授权其巨型模型技术,创始人回归谷歌阵营
Character.AI,谷歌前员工,大型语言模型,非独家许可协议,人工智能初创公司 2024-08-03
微软首席技术官凯文·斯科特在接受采访时重申了他对大型语言模型(LLM)“规模定律”的信念,认为这将继续推动人工智能的进步。斯科特在推动微软与OpenAI的技术共享协议中发挥了关键作用。他强调,尽管有人怀疑进步已停滞,但他认为规模化并未达到边际收益递减的临界点,并指出LLM的性能随着模型规模、训练数据和计算能力的增加而提升。然而,也有研究人员对“规模定律”的长期有效性提出质疑。斯科特的乐观态度与部分批评人士的观点形成对比,后者认为大型语言模型的进步已接近停滞。尽管如此,斯科特认为投资大型人工智能模型是合理的,并期待未来的技术突破。他还指出,公众对模型能力提升的认知可能受限于新模型开发的周期较长。总体而言,斯科特对大型语言模型的未来改进持乐观态度,并相信这将带来成本降低和模型稳定性的提升。
规模定律的持续性:凯文·斯科特坚信大型语言模型(LLM)的“规模定律”将继续推动人工智能的进步。这一观点基于2020年OpenAI的研究,表明随着模型规模、训练数据和计算能力的增加,语言模型的性能会呈可预测的提升。这种规模化的方法意味着通过简单的扩大模型和数据集,可以显著提升人工智能的能力,而不需要根本性的算法突破。
技术瓶颈的争议:尽管斯科特持乐观态度,但也有研究人员对“规模定律”的长期有效性提出质疑。一些批评人士认为,大型语言模型的进步在类似GPT-4的级别已经停滞不前,主要基于对最新模型的非正式观察和基准测试结果。这表明,尽管规模化在短期内有效,但长期来看可能存在技术瓶颈。
未来突破的预期:斯科特对未来版本的改进充满信心,特别是在当前模型表现不佳的领域,如成本过高和稳定性问题。他预期通过规模化,模型将变得更加稳定,成本将降低,从而实现更复杂的功能。
微软的战略投资:斯科特在推动微软与OpenAI达成130亿美元的技术共享协议方面发挥了关键作用。这表明微软等科技巨头仍然认为投资大型人工智能模型是合理的,并押注于持续的技术突破。
市场认知的重要性:微软大力营销自家的人工智能协作工具“Microsoft Copilot”,强烈希望维持人工智能领域持续进步的公众认知。这反映了公司对市场认知的重视,即使技术本身可能遇到瓶颈。
投资回报的考量:尽管有批评声音,但微软等公司继续投资生成式人工智能,部分原因是相信OpenAI掌握着未公开的强大技术。这种投资决策基于对未来技术突破和市场回报的预期。
公众认知的变化:公众对大型语言模型能力提升放缓的认知,部分原因在于人工智能最近才进入公众视野。许多人可能是在ChatGPT上线后才开始意识到类似GPT-3的模型的强大功能,因此在GPT-4发布时才会觉得能力提升巨大。
技术普及的挑战:斯科特承认新模型往往需要数年才能开发,这表明人工智能领域的数据点更新较慢。这种缓慢的更新速度可能会影响技术的普及和公众对技术进步的感知。
未来应用的展望:斯科特对未来版本的改进充满信心,特别是在成本和稳定性方面。这种改进将使人工智能模型更加普及,从而在更多领域实现复杂的功能,推动社会的智能化进程。
综上所述,从技术发展、商业投资和社会影响三个角度来看,大型语言模型的“规模定律”仍然是推动人工智能进步的关键因素,尽管存在技术瓶颈的争议。微软等科技巨头的战略投资和对市场认知的重视,以及公众对技术进步的感知,都将影响人工智能领域的未来发展。
评论记录: