12月18日,亚马逊云科技2024 re:Invent中国行活动在北京举行。亚马逊云科技大中华区产品部总经理陈晓建在中国行北京站主题活动上表示,今年re:Invent全球大会的一系列重磅发布,不仅在云的核心服务层面持续创新,更在从芯片到模型,再到应用的每一个技术堆栈取得突破,让不同层级的创新相互赋能、协同进化。我相信,只有这样全栈联动的大规模创新才能真正满足当今客户的发展需求,加速前沿技术的价值释放,助力各行各业重塑未来。
在沙利文大中华区总监李庆看来:“本届re:Invent大会上的新发布更加侧重于产品的实际应用和工具优化,这表明过去一年中,全球用户正在积极使用亚马逊云科技进行生成式AI应用的探索和创新。本次更新有两个方面让我印象深刻:一是随着全球企业对生成式AI的深入应用,数据不仅实现跨区域的传输与协同,更实现跨地域、跨区域的深度连接;二是亚马逊云科技进一步优化生成式AI的应用,从数据存储、治理到管理的全流程提升,旨在简化AI对数据的使用,同时强化模型功能、增加AI agent管理和应对模型幻觉的功能。此外,新发布的Amazon Nova大模型家族备受期待,这一系列的模型和亚马逊云科技的开放选择理念将为用户带来更多创新机会,进一步推动AI的发展。”
在提到Agent智能体时,陈晓建称,它是将生成式AI能力应用于现实世界的重要途径。“有人预测明年智能体会凶来爆发,这有一定道理,因为要将生成式AI应用于生产,必然需要借助不同agent与业务结合、与人交互并执行实际任务,这过程中会面临诸多问题。为解决这些问题,我们在Amazon Bedrock中推出了智能体功能,又推出了多智能体协作功能,在Amazon Q中也有智能体的相关功能更新。”
但他也提到,现在很多模型虽然非常先进,在原型验证的时候可能表现非常出色,但是当你把它放到生产的时候,哪怕有1%的幻觉,都是无法接受的。“但有了自动推理技术,我们能够通过数学验证方式严密证明事实性错误是否会发生,从而有效改善幻觉问题。”
生成式AI全栈创新,训练推理、模型和应用全面进化
在生成式AI领域,亚马逊云科技全面强化基础设施、模型和应用三层技术栈,帮助企业更轻松、更经济地将生成式AI应用于实际业务场景。此次更新包括:推出Amazon Nova六款基础模型;Amazon Bedrock新接入100多款模型,并推出AI防护、多智能体协作和模型蒸馏等重磅更新,全面优化推理场景的准确性、成本和响应速度;Amazon Q更加深入软件开发和商业应用场景,并为传统工作负载转型开辟新途径;Amazon SageMaker AI将帮助客户更快更轻松地构建、训练和部署模型。
Amazon Nova大幅降低基础模型成本:Amazon Nova甫一发布即成为全球领先基础模型的重要力量,包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基础模型,以及用于生成高质量图像的Nova Canvas和生成高质量视频的Nova Reel。在各自智能类别中,Amazon Nova Micro、Lite和Pro应用成本比Amazon Bedrock中表现最佳的模型至少降低75%,同时也是Amazon Bedrock中对应类别速度最快的模型。
Amazon Bedrock平台能力全面升级:Amazon Bedrock模型选择全面升级,首家提供Luma AI和poolside模型,更新了Stability AI的最新模型,并通过新推出的Amazon Bedrock Marketplace功能为客户提供100多个热门、新兴及专业模型;同时,Amazon Bedrock推出了低延迟优化推理、模型蒸馏、提示词缓存等功能,大幅提升推理效率;支持GraphRAG等知识库功能增强数据利用能力;通过自动推理检查功能和多智能体协作等创新,进一步增强AI安全性并推动智能体发展。
Amazon Q扩展应用场景:Amazon Q Developer增加三款新的智能体,能自动执行单元测试、文档编制和代码审查流程,并通过与GitLab深度集成,扩展应用场景;推出转型功能以加速Windows.NET、VMware和大型机工作负载的迁移和现代化,缩短转型时间并降低成本。强化了Amazon Q Business和Amazon Q in QuickSight洞察能力,并简化了复杂工作流程的自动化实现方式。
基础设施创新:推出Amazon SageMaker AI的四项创新,包括Amazon SageMaker HyperPod的新训练配方功能、灵活训练计划和任务治理功能,以及在Amazon SageMaker中使用亚马逊云科技合作伙伴的热门AI应用。这些功能将帮助客户更快开始训练流行模型,通过灵活训练计划节省数周时间,并将成本降低高达40%。
数据体验升级,统一平台释放数据价值
如今,越来越多的客户不再孤立地使用不同的数据分析工具,相反,他们正在将分析、机器学习和生成式AI相结合来获取洞察。亚马逊云科技推出的新一代Amazon SageMaker包括一个新的、统一的工作室,为客户提供一个单一的数据和AI开发环境,用户可以在其中查找和访问其组织中的所有数据,为各种常见的数据用例选择最佳工具,并将数据和AI项目扩展至团队内不同分工角色以实现协作。
新一代Amazon SageMaker:将快速SQL分析、PB级大数据处理、数据探索和集成、模型开发和训练以及生成式AI等功能统一到一个集成平台。通过全新的Amazon SageMaker Unified Studio,客户可以轻松查找和访问组织内的所有数据资源,并借助Amazon Q Developer选择最适合的工具进行处理。Amazon SageMaker Catalog和内置治理功能确保数据、模型和开发组件的合规访问,此外,通过Zero-ETL与领先SaaS应用程序的集成,客户无需构建复杂的数据管道,即可在Amazon SageMaker Lakehouse和Amazon Redshift中分析第三方应用数据。
推出Amazon SageMaker Lakehouse:实现了数据湖、数据仓库、运营数据库和企业应用程序中数据的统一管理,支持客户使用熟悉的AI和机器学习工具或Apache Iceberg兼容的查询引擎进行访问和处理。
全栈联动创新,升级云服务
作为全球云计算的开创者和引领者,亚马逊云科技在计算、网络、存储和数据库等核心领域持续创新,为各类工作负载提供更强大的底层支持。
自研芯片引领算力创新:基于Amazon Trainium2的EC2 Trn2实例正式可用,较当前GPU实例性价比提升30-40%;推出配备64个Trainium2芯片的EC2 Trn2 UltraServers服务器,提供高达83.2 Petaflops浮点算力,计算能力是单一实例的四倍。在大规模训练方面,Project Rainier集群搭载数十万个Trainium2芯片,算力超越以往集群5倍以上。采用3纳米工艺的下一代Trainium3芯片预计将在2025年末上线,预计将使集群性能提升4倍,并在性能、能效和密度上树立新标杆。
网络基础设施升级:推出第二代UltraCluster网络架构,也称为"10p10u"网络,支持超过20,000个GPU协同工作,带宽达10Pb/s,延迟低于10ms,这一突破性升级将模型训练时间缩短至少15%。
存储服务增强数据处理能力:Amazon S3新增Metadata元数据功能实现自动获取和实时更新;推出专为Iceberg表优化的S3 Tables存储类型,将查询性能提升3倍,事务处理能力提升10倍。
数据库服务新突破: Amazon Aurora DSQL是一款全新的无服务器分布式SQL数据库,采用active-active架构并具备自动故障恢复功能,支持应用程序在任意端点进行读写。它不仅提供99.999%的多区域可用性,还能实现近乎无限的可扩展性,且无需进行数据库分片或实例升级。同时,Amazon DynamoDB global tables也增加了多区域强一致性支持,进一步增强了其分布式数据库服务能力。
数据中心设计重塑基础架构:通过简化电力分配和机械系统,实现基础设施可用性达99.9999%,将受电气问题影响的机架数量减少89%。创新的"液体到芯片"冷却系统无缝集成空气和液体冷却功能,机械能耗降低46%。全新设计让每个站点提供增加12%的计算能力,同时在可持续性方面取得重要突破,采用可再生柴油作为备用发电系统燃料,与传统化石柴油相比温室气体排放可减少90%,数据中心建筑的混凝土固有碳排放量较行业平均水平最高可降低35%。
助力全球企业在亚马逊云科技上重塑未来
众多初创企业与行业领袖正在使用亚马逊云科技持续创新,从人工智能前沿探索到金融风险把控、从数字娱乐体验优化到制药诊断科学推进,亚马逊云科技正助力各行各业加速创新,突破既有范式,重塑未来。
在亚马逊,Amazon Kindle的技术支持工程师采用Amazon Q Developer的运营调查功能后,问题解决速度提升了65-80%,这使他们能够更快地响应客户需求,确保提供卓越的用户体验。Amazon Music的开发人员将Amazon Q视为全天候的得力助手,它能够自动调查并识别各种潜在问题,极大提升了他们的响应速度。初期的使用数据显示,Amazon Music的问题解决速度提高了一倍,确保了听众能够不间断地享受他们喜爱的音乐。
Anthropic专注于AI安全和研究,致力于打造可靠、可解释和可控的AI系统。Anthropic的旗舰产品Claude是全球数百万用户信赖的大型语言模型。Anthropic已开始优化Claude模型,以便在亚马逊最先进的AI硬件Trainium2上运行。Anthropic将使用数十万个Trainium2芯片,该规模是其之前集群的五倍以上,为使用Amazon Bedrock上的Claude客户提供卓越的性能表现。
罗氏(Roche)是一家制药和诊断领域的先锋企业,致力于推进科学进步以改善人们的生活。该公司将使用Amazon SageMaker Lakehouse统一来自Amazon Redshift和Amazon S3数据湖的数据,以消除数据孤岛,增强团队之间的协作,并允许用户无缝利用数据,无需昂贵的数据移动或重复的安全访问控制。借助Amazon SageMaker Lakehouse,罗氏预计数据处理时间将减少40%,这让他们减少数据管理工作,而将精力更多用于推动业务发展。