对标GPT-3、AlphaFold，智源研究院发布超大规模智能模型系统“悟道1.0”
出品 | AI科技大本营（ID:rgznai100）
3月20日，北京智源人工智能研究院发布我国首个超大规模智能模型系统“悟道1.0”。“悟道1.0”由智源研究院学术副院长、清华大学唐杰教授领衔，带领来自北京大学、清华大学、中国人民大学、中国科学院等单位的100余位AI科学家团队联合攻关，取得了多项国际领先的AI技术突破，形成超大规模智能模型训练技术体系，训练出包括中文、多模态、认知、蛋白质预测在内的系列模型，勇闯通用智能发展前沿，构建我国人工智能应用基础设施。同时，与龙头企业共同研发工业级示范性应用，加快大规模智能模型应用生态建设。
从“大炼模型”迈向“炼大模型”，“悟道”模型旨在探索通用智能
会上，智源研究院院长黄铁军教授介绍了“悟道”模型研发的初衷。据他介绍，本轮人工智能浪潮的基本特点是“数据+算力+算法=模型”，模型浓缩了训练数据的内部规律，是实现人工智能应用的载体。近年来人工智能的发展，已经从“大炼模型”逐步迈向“炼大模型”的阶段，通过设计先进的算法，整合尽可能多的数据，汇聚大量算力，集约化地训练大模型，供大量企业使用，这是必然趋势。
智能模型不仅要规模大（主要体现为参数量），还要智商高，才能满足各种应用需要，这需要突破大量技术挑战。例如：如何使得预训练模型具备像人类一样的符合逻辑、意识和推理的认知能力？如何实现对图、文和视频等多模态数据和信息的理解和建模的统一？如何将中文融入预训练模型，推动中文应用背景下的人工智能的发展？如何使得预训练模型深入融入自然科学研究，在目前基础上进一步实现对超长/复杂蛋白质序列的建模和预测？
会上，“悟道”模型技术委员会主任、智源研究院学术副院长唐杰教授介绍了“悟道”模型的战略布局及阶段性成果。据介绍，“悟道1.0”先期启动了4个大模型的研发：面向中文的预训练语言模型悟道·文源、首个公开的中文通用图文多模态预训练模型悟道·文澜、具有认知能力的超大规模预训练模型悟道·文汇、以及超大规模蛋白质序列预测预训练模型悟道·文溯。
在科研方面，“悟道1.0”模型正在逐步搭建并完善超大规模预训练模型技术体系，取得了多项国际领先的AI技术的突破：在基础性能方面，在自然语言理解和生成、跨视觉和文字的理解与检索等多项任务上取得更好表现；针对预训练模型有效使用，提出高效算法；进一步实现规模和性能的扩增中面临的挑战；以及建设并开放了全球最大中文语料数据库WuDaoCorpora。
应用生态“三步走”：探索“悟道”大模型生态发展
在模型研发的同时，智源研究院也在同步探索“悟道”模型的应用生态建设模式。据唐杰教授介绍，后续“悟道”模型将以开放API（应用程序接口）的形式对外提供服务，用户通过申请并经授权后可以基于模型API开发各类智能化应用。另外，也会开源模型的社区版本，服务我国AI科研发展。
下一步，“悟道”模型应用生态建设分为三个主要阶段，分别关注示范应用、API生态及社区运营维护等。第一阶段为示范性应用搭建，将构建面向电子商务、智能文本服务、垂直领域以及数个独立的示范性应用，将开放几个高质量的应用Demo，支持用户在平台页面上使用及测试。第二阶段为API及平台生态构建，将设计多个API，支持对模型的不同请求方式，构建支持高并发、高速推理的API接口，分别支持企业级用户、个人独立开发者对模型或特定功能的请求。第三阶段为社区运营及迭代，将逐步增量扩大在线评测，构建开发者及使用者社区，建立完善的使用反馈机制，并作为模型迭代的参考标准，同时加强社区维护及管理，加快模型迭代。
目前，智源研究院已启动第一阶段的示范性应用搭建，正与快手、搜狗、360、阿里、智谱华章、一览群智、循环智能、新华社等机构就模型的应用进行洽谈，联合构建一批工业级示范性应用。
下一步，智源研究院将加强用户的开发，做好用户服务，与AI龙头企业共同研发更多工业级示范性应用，并将加快推动API生态构建及社区运营迭代工作，通过举办学术交流、技术挑战赛等活动提高“悟道”模型的影响力，吸引更多AI企业、研究机构、个人开发者等开展基于模型的应用开发工作，推动构建国际领先的超大规模智能模型应用生态。
此外，为了更好地推动“悟道”大模型的研发，保持研发过程中技术的领先性，此次发布上，还同时成立了由北京大学鄂维南院士等9位来自学术界和产业界的顶尖科学家组成的“悟道”大模型技术委员会。
更多精彩推荐
☞Python 玩出花儿，把罗小黑养在自己桌面☞315 曝光人脸识别摄像头，进店瞬间偷走你的“脸”，自动分析心情☞玩转3D全息图像！AI即刻生成☞在 5G 速度上，iPhone 12 只是个弟弟相关文章：
TCP Cluster for mqtt 技术实施方案
最前沿的网络技术，为你的网站带来国际化的用户体验和易用性，这一切只有Witmart.com能做到。
两台SQL Server数据同步解决方案
复制的概念复制是将一组数据从一个数据源拷贝到多个数据源的技术，是将一份数据发布到多个存储站点上的有效方式。使用复制技术，用户可以将一份数据发布到多台服务器上，从而使不同的服务器用户都可以在权限的许可的范围内共享这份数据。复制技…
一个用微软官方的OpenXml读写Excel 目前网上不太普及的方法。
新版本的xlsx是使用新的存储格式，貌似是处理过的XML。 传统的excel处理方法，我真的感觉像屎。用Oldeb不方便，用com组件要实际调用excel打开关闭，很容易出现死。 对于OpenXML我网上搜了一下，很多人没有介绍。所以我就这…
分析6千万条GitHub帖子，发现你的工作状态与表情符号强相关
作者 | 凌霄出品 | AI科技大本营（ID:rgznai100）新冠疫情使得远程办公的人数大幅度增加，然而，当越来越多的人远程工作时，人们的情绪和心理健康状态也难以通过日常面对面的交流来观察，雇主们也就无法获得员工…
软件定义网络 对我们有多重要?
软件定义网络(简称SDN)属于网络流量控制的下一个步骤。Tech Pro Research发布的调查报告正是以此为中心，旨在为我们展示企业如何使用SDN方案。 过去几年以来，以更为高效方式管理环境的需求正快速普及，这也使得网络领域的更高灵活性与控制手段…
SQL Server数据库六种数据移动方法
1. 通过工具DTS的设计器进行导入或导出DTS的设计器功能强大，支持多任务，也是可视化界面，容易操作，但知道的人一般不多，如果只是进行SQL Server数据库中部分表的移动，用这种方法最好，当然&#x…
[企业化NET]Window Server 2008 R2[3]-SVN 服务端 和 客户端 基本使用
1. 服务器基本安装即问题解决记录 √ 2. SVN环境搭建和客户端使用 2.1 服务端 和 客户端 安装 √ 2.2 项目建立与基本使用 √ 2.3 基本冲突解决,并版，tags 3. 数据库安装 4. 邮件服务器搭建 5. JIRA环境搭建和使用 6. CC.NET项目持续发布工具…
又一个Jupyter神器，操作Excel自动生成Python代码
来源 | Python数据科学（ID: PyDataScience）不得不说，Jupyter对于表的处理真的是越来越方便了，很多库可以直接实现可视化操作，无需写代码。但是这还不够，最近看到一个神器叫Mito，它真的是做到了无…
CIR：2020年全球数据中心应用AOC市场达$42亿
未来十年，QSFP和CXP将占有源光缆销售收入的大部分。到2020年，QSFP和QSFP28销售收入将分别达到7.27亿美元和7.41亿美元。 根据CIR(CommunicationsIndustryResearchers)的最新报告(《2015有源光缆市场：数据中心和高性能计算市场》)，…
Visual C＃创建资源文件
资源文件顾名思义就是存放资源的文件。资源文件在程序设计中有着自身独特的优势，他独立于源程序，这样资源文件就可以被多个程序使用。同时在程序设计的时候，有时出于安全或者其他方面因素的考虑，把重要东西存放在资源文件中&#…
给IIS添加CA证书以支持https
一、在IIS中生成Certificate Signing Request (CSR) 个人理解：生成CSR就是生成“私钥/公钥对”之后从中提取出公钥。 1. 打开IIS Manager，在根节点中选择Server Certificates（服务器证书），点击右侧的Create Certificat…
MathWorks的AI之路：面向工业场景，打通开发到部署的全链路
作者 | 阿司匹林 AI正在快速发展，并在更多的领域落地。对于MATLAB和Simulink的开发商MathWorks来说，把握AI的机会，显得尤为重要。 不少人对MATLAB等的印象依然停留在学校期间学习的高级线性代数解题器的阶段。然而，MATLAB在几年前…
《Android应用开发攻略》——1.3 从命令行创建 “Hello, World”应用程序
1.3 从命令行创建 “Hello, World”应用程序 Ian Darwin1.3.1 问题你想在不使用Eclipse ADT插件的情况下创建新的Android项目。1.3.2 解决方案使用Android开发工具包（Android Development Kit，ADK）中的android工具，利用creat proj…
将Excel文件数据库导入SQL Server
将Excel文件数据库导入SQL Server的三种方案//方案一： 通过OleDB方式获取Excel文件的数据，然后通过DataSet中转到SQL Server openFileDialog new OpenFileDialog();openFileDialog.Filter "Excel files(*.xls)|*.xls"; if(openFileDialog.…
Android----PopupWindow
Android的对话框有两种：PopupWindow和AlertDialog。它们的不同点在于： AlertDialog的位置固定，而PopupWindow的位置可以随意 AlertDialog是非阻塞线程的，而PopupWindow是阻塞线程的 PopupWindow的位置按照有无偏移分&#x…
GitLab 在中国成立公司极狐，GitHub 还会远吗？
作者 | 宋慧 责编 | 苏宓出品 | CSDN（ID：CSDNnews）开源的种子已在中国落地开花。今天，中国的开源圈再次迎来一大盛事：全球第二大开源代码托管和项目管理平台 GitLab与红杉宽带等基金正式宣布成立中国合资公司极狐信…
消除危害 让BYOD策略更安全的几个秘诀
自带设备办公(BYOD)已经不是什么新鲜的事情，在近些年，随着移动设备的发展，员工利用自带设备办公已经成为一件非常平常的事情。 但是由于出于安全问题的考虑，一些企业禁止员工通过自带设备连接到公司网络中进行办公。他们不允许个人…
图神经网络如何对知识图谱建模？ | 赠书
几乎所有早期的知识图谱嵌入的经典方法都是在对每个三元组打分，在实体和关系的表示中并没有完全考虑到整幅图的结构。早期，图神经网络的方法在知识图谱嵌入中并没有被重视，主要由于：早期的图神经网络更多是具有同种类型节点和边的…
浅析ado.net获取数据库元数据信息
写这个文章源于早先对ADO.Net获取数据库元数据上的认识，去年我在阅读ADO.Net Core Reference的时候曾经注意过DataSet的FillSchema的这个方法。这方面，在我之前的随笔中提到过Typed DataSet，而FillSchem与WriteXmlSchema的结合使用可以获得数…
账户密码策略修改
由于是虚拟测试环境所以AD 和 Exchange安装在同一台虚拟机上，所以修改账户密码策略已达到降低密码是设置的复杂度。 1.打开 --开始--管理工具--组策略管理 2.选择--Default Domain Policy 右键编辑 3.选择计算机设置--策略--安全设置--账户策略--密码策略 4.调整--密…
什么是新IP的四层网络技术
新IP技术共有四层：物理底层、网络服务、控制服务和编排。通过这四个层级实现网络虚拟化和软件定义网络，下面就来详细说一说什么是新IP的四层网络技术。 物理底层 新IP技术依然是一种基于硬件的技术，脱离不了物理底层，所有的虚拟软…
按拼音模糊匹配查询条件的生成类
转载了好几个地方，很难确定最早的出处。将源码贴出来先。1usingSystem; 2usingSystem.Text; 3usingSystem.IO; 45namespacets6{ 7 class test 8 { 9 private static string[] startChars {"啊", "芭", "擦","搭…
Java架构技术文档：并发编程+设计模式+常用框架+JVM+精选视频
本篇文章是我们整理的一份架构师的成长路线，包括了并发编程、设计模式、常用框架、中间件、微服务与分布式、常用工具、JVM、MySQL、数据结构与算法，还有架构师精选视频、架构师成长路线高清大图。又是新的一年，每一年都会有人在成为架构师的…
linux tune2fs简解(每日一令之五)
1:命令简介Linux下的文件检测命令，且可以自行定义自检周期2：用法[rootuyhd000225 ~]# tune2fs --help tune2fs 1.39 (29-May-2006) tune2fs：无效选项 -- - Usage: tune2fs [-c max_mounts_count] [-e errors_behavior] [-g group][-i interva…
物联网技术正颠覆传统医疗行业
如果你或你的爱人最近正在接受治疗，你可能会觉察到一些很酷的新设备可以辅助诊断和治疗。然而，你可能没有意识到，一部分这些设备已连接到互联网，成为物联网生态系统的一个重要组成部分。 到底如何连接核磁共振成像仪、CT扫描仪或实…
数组的进一步使用
数组是数据结构中最基本的结构形式，它是一种顺序式的结构，存储的是同一类型的数据。每个数组元素都拥有下标（index）和元素值（value），下标方便存取数据，而元素值就是被存储的数据。 数…
百度香港二次上市，12 岁开发者、AI 机器人同台敲响“芯片代码锣”
整理 | AI科技大本营（ID:rgznai100）今日，继 2005 年百度在纳斯达克上市后，百度在香港的第二次上市。上市首日开盘价254港元每股，截至发稿，为 252 港元每股，总市值约为 7129 亿港元。现场“敲锣人…
Linux启动流程(二)
//...根据grub内核映像所在路径,读取内核映像，并进行解压缩操作。并调用start_kernel()函数来启动一系列的初始化函数并初始化各种设备，完成Linux核心环境的建立1.start_kernel(init/main.c)中调用一系列初始化函数:(1) 在屏幕上打印出当前的内核版本信息…
写代码可能是成为软件工程师最容易的部分
当然，写代码是超级重要的，但是我认为它只是整个过程中的一小部分，且不一定是最难学的。 学习如何写代码要花些时间，但是只要有足够的训练（每天写代码，坚持数年），你就能真正擅长它。 …
不是“重复”造轮子，百度飞桨框架2.0如何俘获人心
2016 年，百度 PaddlePaddle 打响了国产深度学习框架开源的第一枪。 2019 年 4 月，在 Wave Summit 深度学习开发者峰会上，首次发布了PaddlePaddle 的中文名“飞桨”，开始强调自己更适合中国开发者，以及更加专注于深度学…