2023年12月1日晚，588888纽约国际官方网站第十九期“知存讲座”暨信息科学前沿与产业创新课程在纽约国际官方网站理科教学楼208教室顺利举办。曾任中科院物理研究所副研究员，现任亚马逊云科技高等教育行业总监的刘东屏教授和亚马逊云科技资深解决方案架构师石锋老师受邀进行了以“亚马逊云科技生成式人工智能（GenAI）助力云端科研”为主题的分享，400余名师生到场聆听;588888纽约国际官方网站副院长王润声教授主持了本次活动;亚马逊云科技的朱耀飞、乔敬霄、李亦钊等现场支持本次活动，并参与了学生问题的解答。

讲座现场

刘东屏教授的讲解分为三部分：对亚马逊云的介绍、亚马逊云支持科研的项目、以及HPC + GenAi的典型应用场景。

刘东屏老师讲解

亚马逊集团在华业务大致分四个板块：云服务（亚马逊云科技）、电商、智能硬件、全球物流。其中，亚马逊云科技在云服务方面的一个重要的创新点在于使用清洁能源、低功耗的芯片助力节能减排、可持续发展。例如，亚马逊云科技自演的推理芯片TRN1,芯片的显存研发和数据结构取得了重大突破，与通用GPU相比耗电量低，并且成本降低了50%。

亚马逊云科技可以提供遍及全球的云服务能力，包括提供可用区间的100G海底光缆连接，以及未来可以覆盖全球的由3000多颗通讯卫星组成的网络。碳排放是衡量一个企业践行可持续发展的重要指标，亚马逊云计划于2040年实现碳中和，例如在沙漠中建立太阳能供电站、使用风电等清洁能源。为响应联合国在全球范围内的可持续发展理念，亚马逊云科技提供可持续发展解决方案，赋能生态企业、客户，利用人工智能技术帮助有可持续发展规划的公司逐步实现节能减排，例如为墨尔本大学提供分析碳排放足迹、能源消耗结构的人工智能工具，进而提高能效找到降低能耗的方法；以及支持天津大学佐治亚理工深圳学院使用亚马逊云科技的公开数据集开展可持续发展研究。

 亚马逊云科技科研创新支持计划，支持科研工作者在云端构建科研、研发环境，即支持科研软件、研发软件的云端部署和任务执行；同时也鼓励科研工作者使用公开数据集研究数据科学问题；并倡导全球科研工作者通过开源社区进行学术合作与技术分享。

 亚马逊云科技通过将高性能计算（HPC技术）与生成式人工智能（GenAi技术）相结合，助力科研工作在云端快速迭代、创新。刘教授指出人工智能的发展十分迅速，神经网络大模型训练更是其中的重点，随着网络模型参数量的不断增加，大模型训练一般需要基于HPC架构在多GPU卡协同的技术框架下，完成训练工作。使用亚马逊云科技的HPC和GenAI技术栈，可以帮助科研工作者快速的在云端搭建人工智能大模型的训练环境；并通过亚马逊云科技提供的海量数据存储能力，来加载行业数据，完成针对具体行业垂直应用的模型训练任务。

石锋老师在接下来的演讲中，对生成式人工智能的典型应用场景进行了讲解。传统机器学习模型一般拥有一个输入端和一个输出端，根据标记的数据来做出相应的应答；而大模型通过利用未标记的数据预训练和适配，这一技术进步颠覆了传统机器学习的范式。大模型的优势是语言理解更准确，语言表达更加流畅，支持零样本迁移学习，创造性的内容生成，并且具备编程能力。然而，大模型也有自己的不足，例如事实不准确、幻觉问题、一本正经的胡说八道等；此外，大模型中过时的信息、有偏见的信息，以及涉嫌侵犯版权的内容，这些都是未来要在不断的研究中解决的问题。

石锋老师讲解

生成式人工智能有很多应用，例如：车辆紧急救援系统，这种系统能够实现智能应答解决车主的问题；Text2SQL技术能帮助生成SQL查询语句，在数据库中获取数据后，帮助使用者生存统计图，提高工作效率；大语言模型还能帮助科研工作者进行论文的优化和润色，能让文章词汇更加专业，并能给出专业级的英语语法修改意见；亚马逊云科技的CodeWhisperer服务，能够根据客户的输入，智能生成代码，帮助科研工作者快速掌握编程语言、程序语法规则。大语言模型是生成式人工智能的基础，亚马逊云也具备自己的大语言模型，Titan就是一个例子。此外，石老师还提及了一些知名AI工具的具体应用场景，例如使用大模型的图像生成能力，为中国传统艺术注入新能量，帮助艺术家生成二维平面艺术效果、设计图；同时，生成式人工智能也可以应用于流体力学仿真领域（CFD领域），通过微调Stable Difussion 2.1大模型，已经可以人工智能根据空气动力学特性，优化的设计出风阻更合理的跑车；生成式人工智能甚至能够智能设计CPU并完成布线验证，例如清华大学开发的ChatCPU项目，在亚马逊云科技科研创新支持计划的资助下，清华大学团队通过微调使得大语言模型具备了三种芯片设计过程中必不可少的能力，并让大模型在CPU设计过程中进行自我交叉验证，最终自动迭代出一个完整的CPU设计。

在讲座后的提问环节中，亚马逊云科技的朱耀飞、乔敬霄、李亦钊等三位老师积极引导学生提问，并细致的解答了同学们提出的问题，现场交流气氛活跃。

互动交流

在本次活动中，通过刘东屏教授和石锋老师的精彩分享，同学们对于亚马逊云科技在科研上支持、在生成式人工智能技术方面的能力有了更加深刻的理解；也希望通过本次活动，在亚马逊云科技的协助下为校企合作、科研创新、学生培养方面架起国际化的桥梁，本次“知存讲座”在与会老师、同学们热烈的掌声中圆满结束。

注：相关资料新闻请参见https://www.amazonaws.cn

亚马逊云科技科研创新支持计划

https://aws.amazon.com/cn/events/educate_cloud/research-credits/