国内大模型领域进入乱战时代
大模型,又称为预训练模型、基础模型等,是指模型参数数量很大,需要大量计算资源才能训练的深度学习模型。这些模型通常包括数千万甚至数百亿、数千亿个参数,其中常见的大模型包括BERT、GPT、ResNet等。大模型的优点在于它们可以更好地学习数据中的复杂特征,从而提高模型的准确性和泛化能力。然而,由于这些模型需要大量计算资源来训练,因此它们的训练时间往往非常长,需要使用大量的计算资源,如GPU或TPU。
·
国内大模型领域进入乱战时代
- 2023.4.12
- 版权声明:本文为博主chszs的原创文章,未经博主允许不得转载。
什么是大模型
大模型,又称为预训练模型、基础模型等,是指模型参数数量很大,需要大量计算资源才能训练的深度学习模型。这些模型通常包括数千万甚至数百亿、数千亿个参数,其中常见的大模型包括BERT、GPT、ResNet等。
大模型的优点在于它们可以更好地学习数据中的复杂特征,从而提高模型的准确性和泛化能力。然而,由于这些模型需要大量计算资源来训练,因此它们的训练时间往往非常长,需要使用大量的计算资源,如GPU或TPU。
为了训练大模型,需要使用高性能计算机或云计算平台。这些平台可以提供大量的计算资源,从而加速训练过程。此外,还需要使用优化算法和技术,如分布式训练、混合精度训练、梯度累积等,以提高训练效率和准确性。
国内大模型的现状
截止2023年4月上旬,国内已有很多家公司发布/或预发布大模型。我搜集了大部分数据,根据宣布时间排序,大致情况如下:
- OpenAI的GPT-3.5/4(国外)
- Google的Bard(国外)
- 百度的文心一言
- 华为的大模型盘古
- 清华大学发布大模型ChatGLM,开启内侧
- 阿里发布大模型通义千问
- 阿里达摩院上线“文本生成视频大模型”:目前仅支持英文输入,已开放试玩
- 蚂蚁集团与清华大学签署合作协议,将合作研究“安全通用大模型”和“下一代互联网应用安全技术”
- 商汤科技发布多模态多任务通用大模型“书生2.5”,迈向AGI通用人工智能
- 360宣布:基于360GPT大模型开发的人工智能产品矩阵“360智脑”率先落地搜索场景,将面向企业用户开放内测
- 科大讯飞:将于5月6日发布“1+N认知智能大模型”及应用产品
- 毫末智行推出全球首个自动驾驶认知大模型DriveGPT,4月公布最新进展
- 商汤科技推出“日日新SenseNova”大模型体系,发布自研中文语言大模型应用平台“商量SenseChat”
- 昆仑万维:即将发布国产大语言模型“天工”3.5,将于4月17日启动邀请测试
- 有赞上线大模型驱动AI产品“加我智能”,支持图文推广和活动策划两大场景
- 腾讯混元系列AI大模型还在研发中
- 字节跳动组建大模型团队:朱文佳带队,搜索、智创两部门牵头。
- 搜狗创始人王小川宣布开启人工智能大模型领域创业:成立新公司“百川智能”,已获得5000万美元启动资金
- 京东陆续发布了10亿级的K-plug模型、百亿级的Vega模型等一系列领先的大模型,并拟于今年发布千亿级的言犀大模型。
- 达观数据研发“曹植”大语言模型,致力于国产GPT模型
- 澜舟科技完成数亿元融资,推出孟子MChat可控大模型
- 复旦大学研发MOSS大模型,拟4月中旬开源
- 中科院自动化研发紫东太初大模型,能够实现视觉、文本、语音三个模态间的高效协同,性能全球领先。
- 北京智源人工智能研究院发布万亿参数的超大规模智能模型“悟道2.0”
于此同时
郭嘉对擅自提供ChatGPT访问服务的公司和个人进行了打击。
一些预测
- 一拥而上的大模型,带来的结果会是:伴随用户试用过程中的嘲笑/调侃而慢慢退出市场(有ChatGPT行业标杆的衬托),丢人丢面。
- 垂直行业类的大模型在专门的领域内有超越ChatGPT的可能(专业vs通用),满足行业用户的需求而长期存在。
- 随着资本的涌入,追赶OpenAI的步伐会加快,但中短期内缩小不了差距*(年底GPT-5就会发布)。
- 乱战时代存活下来的头部企业能喝汤,其它公司的投入打水漂。
更多推荐
已为社区贡献20条内容
所有评论(0)