关闭广告

Stability AI开年首个模型:18种语言专写代码,苹果笔记本离线跑

量子位9884人阅读

西风 发自 凹非寺
量子位 | 公众号 QbitAI

Stability AI开年第一个大模型来了!

名为Stable Code 3B,参数27亿,专为写代码而生。



Stable Code 3B可理解处理18种不同的编程语言,上下文长度100K token

且它对硬件要求也不高,用MacBook Air等普通笔记本电脑也能离线运行。

性能方面,Stable Code 3B规模比CodeLLaMA 7B小60%,但性能却大差不差。



BigCode评估中,在包含多种编程语言的MultiPL-E数据集上,Stable Code 3B与类似大小的模型相比,都拿下了SOTA性能。



Stable Code 3B刚上线,有网友反馈已经在插件中用上了:

  • 效果非常好!体积小,兼容各种硬件且运行速度非常快。



Stable Code 3B长啥样?

在此之前,Stability AI去年8月份就已发布了一个初代版本Stable Code Alpha 3B,Stable Code 3B是其进化版。但开发团队表示,Stable Code 3B是首个主要版本,基于Stable LM 3B基础模型打造,并增加了多项附加功能。

其中就包括支持中间填补(FIM)等新功能,并使用RoPE(旋转位置嵌入)方法,将上下文长度从16000 token拉长至100000 token。

Stable Code 3B整体架构类似于LLaMA,是一个仅解码器模型,使用Flash Attention 2算法。



支持以下18种编程语言:

  • C、CPP、Java、JavaScript、CSS、Go、HTML、Ruby、Rust、Markdown、Shell、Php、Sql、R、Typescript、Python、Jupyter-Clean、RestructuredText

下面是对性能比较的补充。

面对比自己大两倍多的CodeLLama 7B,Stable Code 3B的性能也差不多能与其打个平手,在Python、CPP语言上甚至略胜一筹。





在类似大小的模型中,Stable Code 3B表现突出。



不过也有吐槽声

虽然Stable Code 3B收到了一波好评,但也有不少网友认为“没有太多新东西”、“没有那么好”。



此外,它仅支持英语和编程语言,也是让大家有些许失望。





对此,你怎么看?

参考链接:
[1]https://huggingface.co/stabilityai/stable-code-3b
[2]https://twitter.com/StabilityAI/status/1747348018884493623

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

反转!张庭林瑞阳抓住调查取证公司的小辫子狠锤

安宁007 浏览 10891

千亿公司浙商大佬病逝 80后"少东家"面临股票停牌

每日经济新闻 浏览 104538

牛弹琴:一脸愤怒的普京再次出现 决定了瓦格纳的命运

上观新闻 浏览 75872

谢婷婷疑似恢复单身?独自带女儿送新年祝福,外籍老公3年没露面

素素娱乐 浏览 10442

吴宗宪曝过气艺人去内地捞金 带货一小时赚千万

盖饭娱乐官方号 浏览 17046

2020年国庆中秋连休8天下次国庆中秋一起过还要再等11年

趣看热点 浏览 22981

程晓玥曝产后身材 妊娠线赘肉颈纹全来

娱絮 浏览 16115

台媒:台开始召集女性后备军人受训

参考消息 浏览 16047

A股放量拉升,北向资金大幅回流,反弹能否持续?

Wind万得 浏览 10221

阿尔巴赛后发文:争取赢下决赛!

直播吧 浏览 11768

吕布杀了两名小将为何称为三国第一猛将?以辕门射戟化解刘备与纪灵的争斗

趣看热点 浏览 23186

和"美在台协会"处长密谈1小时 韩国瑜用四字形容过程

海峡导报社 浏览 69242

《大话西游》中朱茵扮演了青霞和紫霞,可是很多人都不知道她还在里面扮演了猪八戒

趣看热点 浏览 25367

香港年轻人想参军 解放军将领:都是一家人 欢迎

看看新闻Knews 浏览 8451

今年最流行的元素居然是它?减龄又好看

LinkFashion 浏览 10362

樊小慧被前婆婆上门暴打并索赔!伤势严重,前夫在场袖手旁观

文艺圈娱乐号 浏览 10415

隐形高教“洼地”,太难了

每日经济新闻 浏览 14060

中老年男人,为什么劝你冬天“戴帽子”?4个优势,很多人不知道

潮人志Fashion 浏览 10456

杜紫怡曝被TangoZ性骚扰 遭男方酒后用言语侮辱

网易娱乐 浏览 12456

朝鲜试射一枚中远程固体燃料弹道导弹

新民晚报 浏览 9799

山西10岁男童遇害 继父曾冲镜头痛哭喊话"要找到娃"

上观新闻 浏览 85284
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1