当前位置：首页 > 编程日记 > 正文

算力“竞速”，企业AI落地的当务之急

编程日记 2024-12-25 08:50:00

640?wx_fmt=png

充足的算力资源，在数据量持续增长及算法持续复杂化的前提下，无疑是保障人工智能应用落地效果的关键。

软件定义算力——打造AI转型最佳实践

8月2日，第四范式联合英特尔共同举办了AI实践者之声夏令营活动。第四范式基础架构负责人刘一鸣以《软件定义算力——打造AI转型最佳实践》为题做了演讲，他指出，不管是围绕专家规则构建AI系统，还是围绕AutoML技术构建应用系统，都将带来算力的巨大需求。

具体而言，挑战在于数据量越来越大，但模型效果没有多大提升，这就需要做高维复杂的模型。其次，数据的价值是随着时间的增加而递减，比如情报资料知道的越早越容易做出决策。

其中的关键是要让AI释放算力达到极致效果，这就需要基础架构提供算力。为此，第四范式首先做了自研的机器学习框架，现在模型越来越深，此外他们还自研了整个软件栈，每一层都做了精细优化，并且与硬件进行结合。

640?wx_fmt=png

通过与AI行业核心基础设施技术提供商英特尔公司的深度合作，第四范式AIO引入英特尔®Cascade，Optane固态硬盘等技术，拥有了更充沛的算力，进一步加速了企业实施AI应用的进程。

在AI数据处理能力上，结合英特尔®Cascade Lake CPU与第四范式软硬一体的优化，先知AI平台分布式模型训练框架训练速度获得飞跃。在TB级数据规模下，“第四范式先知”平台的模型训练速度可达Spark*的数千倍。英特尔®Optane固态盘则是“第四范式先知”平台引入的另一项英特尔 “杀手锏”，其3D XPoint™ 技术，正在打破内存和固态盘之间的边界。

最后，刘一鸣表示，第四范式的最终目标是端到端的机器学习，其软硬一体的企业级AI平台就是为了让AI的价值快速落地，所以不管是网络、存储还是计算，他们要让全流程至少比起普通的机器快四到十倍。

软硬协同——突破产品性能瓶颈

作为硬件平台的重要合作方，英特尔为第四范式提供性能强劲的至强®处理器和数据中心级持久化内存硬件平台, 同时为第四范式业务更好的协同硬件工作而提供了一系列的优化工具和方法，帮助企业软件协同硬件，更好的发挥硬件的性能潜力，打破产品性能瓶颈，助推第四范式“1+N”智能化转型。

640?wx_fmt=png

此次夏令营活动上，英特尔AI方案架构师赵玉萍和英特尔软件工程师吴国安以《软硬协同——突破产品性能瓶颈》为题讲述了系统性能的优化方法以及性能优化的结果。

系统性能的优化方法主要三种：

第一种是资源分析方法，主要包括USE的方法，也就是检测使用率、饱和、错误，还有资源缩放的方法。
第二种是微架构自下而上分析方法，主要是分析CPU微架构的使用情况，包括前端受限、后端受限或者错误预测以及等待卸货的比例，各个比例是怎么样，这主要是为了更高效地使用CPU执行单元。
第三种是代码和热点优化方法，主要是包括热点检测，并发和锁分析，以及如何使代码特别对于AI的代码进行向量化、减少内部布局和多线程并发。

这三种方法是从总体到细节这样一个优化过程，同时三种方法不停地循环往复推动整个系统的性能提升。

吴国安还介绍了英特尔傲腾数据中心级持久内存应用方法。傲腾数据中心级持久化内存与正常内存共享内存控制器和内存通道，主要有三大特点：扩展大内存，也就是可以存放或者缓存更多，不需要做任何代码上的改动，非常简单易用；内存持久化，需要应用做一些改动，可以实现一些高可用场景；快速存储设备，可以减少I/O受限，简单易用，但由于做快速存储设备优势不那么明显，目前还没有找到合适场景。

640?wx_fmt=png

走进南京大学——AI实践者之声夏令营活动招募

8月31日，由英特尔发起的 AI实践者之声夏令营来到南京大学，该技术沙龙旨在打破技术理论、产品、场景边界，促进人工智能规模化落地。

众所周知，在实现智能化转型的道路上，各行业企业面临着海量数据处理、机器学习和深度学习技术支撑、高昂计算成本以及技术人才紧缺带来的挑战。企业一直在寻求可以不断提高效率、降低成本的生产线，这就需要开发者不断增长技能，紧跟技术发展，帮助企业解决工程实践中的挑战。

此次AI实践者之声夏令营活动一如既往有重磅演讲嘉宾莅临，分别是南京大学人工智能学院教授俞扬教授、英特尔（中国）人工智能行业客户总监孙宇以及创新工场南京国际人工智能研究院执行院长冯霁。

基于上述讲师丰富的产学研经验，他们将帮助开发者们在企业AI转型中掌握核心技能及工具，解析AI技术实践中遇到的挑战。本次技术沙龙，更有英特尔技术专家亲自带领现场开发者进行两小时的技术实操，从模型训练到部署，助力开发者练就上手硬核技能。干货满满，不容错过！

扫描二维码或点击阅读原文，报名加入 AI 实践者之声夏令营，成为 AI 实践者之一！

640?wx_fmt=png

重磅嘉宾介绍

南京大学人工智能学院教授俞扬

议题：强化学习发展与未来

640?wx_fmt=png

俞扬，博士，南京大学教授。主要研究领域为机器学习、强化学习。分别于2004年和2011年获得南京大学计算机科学与技术系学士学位和博士学位，获2013年全国优秀博士学位论文奖、2011年CCF优秀博士学位论文奖。发表论文40余篇，包括多篇Artificial Intelligence、IJCAI、AAAI、NIPS、KDD等，获得4项国际论文奖励和2项国际算法竞赛冠军，入选2018年IEEE Intelligent Systems杂志评选的“国际人工智能10大新星”，获2018亚太数据挖掘"青年成就奖”，受邀在IJCAI’18作关于强化学习的"青年亮点"报告。

议题介绍：基于强化学习技术，人工智能系统已在围棋、视频游戏等领域展示出了可超越人类的决策能力。除了可以玩游戏，强化学习系统是否可以在实际应用中发挥超越人类的决策能力，帮助人们更好的解决问题？演讲将对这一问题进行探讨。

英特尔（中国）人工智能行业客户总监孙宇

议题：英特尔人工智能战略

640?wx_fmt=jpeg

议题简介：介绍英特尔人工智能的产品、技术、相关工具以及生态环境。阐述英特尔人工智能发展战略。

孙宇，男，英特尔（中国）人工智能行业客户总监。2004年加入英特尔公司，十五年来专注于数据中心产品及业务，历任研发、市场及销售等不同岗位，现负责英特尔在中国人工智能行业的业务开拓及关键客户的合作。2001年毕业于北航，获机械工程及自动化学士学位，2003年毕业于清华大学，获微电子第二学士学位。2011年获得上海交通大学项目管理工程硕士学位。目前担任江苏省人工智能学会机器学习专委会常委职务。

创新工场南京国际人工智能研究院执行院长冯霁

议题：创新工场的人工智能实践

640?wx_fmt=png

冯霁，师从南京大学周志华教授，专注于新型深度学习算法和理论的研究。其参与的深度森林系列研究，在学术界和工业界获得了较为广泛的关注和影响。现担任IEEE联邦学习标准制定委员会副主席，以及多个人工智能顶级会议包括NeurIPS-19,AAAI-18, ICML-19的程序委员。他在数据驱动下的计算金融具备资深的研发和实战能力，对金融时间序列分析，全栈式人工智能系统的搭建和技术人员的培训上有着丰富的经验。

目前担任创新工场南京国际人工智能研究院执行院长，在鲁棒性和安全性人工智能以及计算金融领域，开展一系列的研究与落地工作，从整体上负责南京研究院的团队建设、科研拓展、应用研发、学术交流与合作等工作内容。

Hands on lab环节

本次夏令营设置了Hands on lab环节，由技术专家全程讲解，帮助AI开发者体验基于英特尔软硬件产品的AI能力，完成从数据预处理到深度学习模型的训练和推理，再到部署边缘侧的整体落地过程演练。具体包括：

亲自构建深度学习模型并部署到边缘；
企业图像分类问题；
在VMMR数据集上执行探索性数据分析；
选择框架和网络；
训练模型——获得训练网络的图形和权重；
在CPU、集成图形和英特尔®Movidius™神经计算棒上部署模型。

640?wx_fmt=png

欢迎扫描二维码或点击阅读原文，报名加入AI实践者之声夏令营，成为AI实践者之一。

https://www.dkcj.cn/info/33349.html

算力“竞速”，企业AI落地的当务之急

相关文章：

内存检测工具Dr. Memory的使用

手把手教你如何新建scrapy爬虫框架的第一个项目（下）

.net完整的图文验证

Tesseract-OCR 3.04在Windows7 vs2013上编译过程

【Laravel-海贼王系列】第九章， Events 功能解析

触类旁通，经典面试题最长公共子序列应该这么答

两分公支的IPSec***流量走总部测试

OpenCV代码提取：cvtColor函数的实现

关于java.util.LinkedHashMap cannot be cast to ......的解决办法

三两下实现NLP训练和预测，这四个框架你要知道

大学计算机基础实验

java基础(十三)-----详解内部类——Java高级开发必须懂的

C++中函数指针的使用

只做好CTR预估远不够，淘宝融合CTR、GMV、收入等多目标有绝招

Android监听HOME按键

OpenCV代码提取：merge/split函数的实现

DeepMind提图像生成的递归神经网络DRAW，158行Python代码复现

其他进制的数字

java中的移位运算符

C++11中nullptr的使用

埃森哲、亚马逊和万事达卡抱团推出的区块链项目有何神通？

小团队如何玩转物联网开发？

Build Boost C++ libraries for x32/x64 VC++ compilers on Windows

C++11中auto的使用

攻和防谁更厉害？AI技术在恶意软件检测中的应用和对抗

一文看懂机器学习中的常用损失函数

Using Apache2 with JBoss AS7 on Ubuntu

OpenCV代码提取：rotate函数的实现

在 Node.js 中用子进程操作标准输入/输出

再见，Python 2.x