:一款小型但强大的AI模型,由新加坡科技设计大学的研究团队开发,仅占用550MB内存。
2. 该模型采用了稳定扩散XL技术,计划在90天内在3万亿代币的数据集上进行训练,旨在适应内存受限的边缘设备。
3. TinyLlama的成功将为实时机器翻译等多种应用提供高性能AI解决方案。
站长之家(9月8日 消息:新加坡科技设计大学的研究人员正进行一项引人注目的项目,他们正在努力创建一款小型但强大的AI模型,这个模型被称为TinyLlama,它采用了一种紧凑的设计,仅占用550MB的内存。
这一模型的独特之处在于,它将在3万亿token的数据集上进行训练,这个庞大的数据集将在短短90天内完成训练。
这个项目的目标是为内存受限的边缘设备提供高性能的人工智能解决方案。越来越多的开发者要求创建更小的AI模型,因为对于内存和计算能力受限的边缘设备来说,较少的参数更加优化。此外,较小的模型还可以用来协助解码更大的模型,正如前特斯拉高级AI总监Andrej Karpathy所言。
TinyLlama项目由新加坡科技设计大学的研究助理领导,他们试图在三万亿token的数据集上预训练一个11亿token的Llama模型。这个模型仅占用550MB的内存,团队认为它的紧凑性将使它能够满足多种应用的需求,这些应用需要受限的计算和内存占用,以实现诸如无需互联网连接的实时机器翻译等功能。
TinyLlama的训练于9月1日开始,使用了16个A100-40G GPU,团队计划在短短90天内完成训练。截止到目前,团队已完成了1050亿token的训练。
模型的构建者表示,他们正在使用与Meta用于训练Llama2的“完全相同的架构和分词器”,因此它可以轻松应用于基于Llama构建的开源项目。
一旦完成,TinyLlama将加入越来越多的较小语言模型的行列,这些模型由开发者用于构建各种应用。同时,EleutherAI的Pythia-1b和Databricks旗下MosaicML的MPT-1b也在取得进展。
腾讯云618狂欢节特惠来袭!现在购买3年轻量云服务器,配置2核2G4M,只需396元!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
研究人员使用插值技术将开源语言模型LLaMA的上下文窗口从原来的约3,200个token扩大了10倍,达到约32,000个token,由此开发出新的开源语言模型Giraffe。该版本有130亿个参数版本,并且拥有所有开源LLM中最大的上下文窗口之一。开源的Giraffe-v2-13b-32k模型已在HuggingFace平台上线,代码也在GitHub上开源。
IBM计划在watsonx.aistudio中托管Meta的Llama2聊天70亿参数模型,目前已向部分客户和合作伙伴提供早期访问。这将建立在IBM与Meta在AI开放创新方面的合作基础上,包括与Meta开发的开源项目合作-如watsonx.data中使用的PyTorch机器学习框架和Presto查询引擎。我们很高兴看到这些创新者将用Llama2和其他模型在watsonx平台上构建什么。
在今天上午的2023中国数字经济创新发展大会上,腾讯的高级执行副总裁、云与智慧产业事业群CEO汤道生宣布腾讯云TI平台的正式上架。汤道生表示,腾讯云TI平台支持行业最新、最流行的开源模型,如Llama2、Falcon、Dolly等,可直接部署调用,全程低代码操作。这将有助于降低AI开发的门槛,使得更多的人可以参与到AI的开发和应用中来。
ChatGPT引发的大模型热潮愈演愈烈,全球科技巨头和明星初创争相入局,打造以AI大模型为核心的竞争力和多样化商业使用需求。其中LLaMA系列模型,因良好的基础能力和开放生态,已积累了海量的用户和实际应用案例,成为无数开源模型后来者的模仿和竞争的标杆对象。相关的应用都经过Colossal-AI团队精心优化,得益于算法和系统的双面优化,能大大降低模型训练以及部署的成本。
美国艾伦人工智能研究所最近发布了一个名为Dolma的开源数据集,其包含了3万亿个token,这些词汇来自包括网络内容、学术出版物、代码和书籍等广泛的来源。Dolma是目前公开可用的同类数据集中最大的一个。它还应该最大限度地减少风险,尤其是那些可能影响个人的风险。
「GPT还是Llama2?」过去几周时间里,许多大模型应用层的开发者不得不开始集中思考这个问题。7月19日,开源社区最强的大模型从Llama升级到Llama2。但随着Llama2的释出,开源社区的技术能力被带上另一个台阶,大模型开源社区的力量已经无法被忽视。
本文概要:1.IBM与Meta合作,在其企业AI平台watsonx上托管Meta的人工智能语言程序Llama2。2.Llama2能够帮助企业在其业务中应用自然语言处理和机器学习技术。IBM表示,Meta的开源AI模型发布后,将推出其他软件,例如AI调优工作室、情况说明书和其他生成式AI模型。
Meta的研究人员开发了一种名为指令回译的新技术,用于提高大语言模型的指令跟踪能力。该技术可对LLaMa等大型语言模型进行微调以遵循指令无需依赖昂贵的人工注释或从GPT-4等更强大的模型进行提炼。研究人员表示,他们计划通过考虑更大的未标记语料库来进一步扩展这一方法,从获得更好的效果。
IBM宣布将在其企业人工智能平台WatsonX上托管MetaPlatform的AI语言模型MetaLlama2。Llama2是Meta于今年7月推出的开源人工智能语言模型的商业版本,由微软的Azure云服务分发。在watsonx.ai中,AI构建者可以利用IBM和HuggingFace社区的模型,这些模型经过预训练,支持一系列自然语言处理任务,包括问答、内容生成和摘要、文本分类和提取。
核心频率不同,CPU型号不同天玑9200+和天玑 9000 都是联发科的5G旗舰级芯片,天玑9200+和天玑9000都是采用台积电4nm工艺制程。天玑9200+的CPU最高主频为3.3GHz,而天玑 9000 的CPU最高主频为3.2GHz。两款芯片都支持双模5G、WiFi 6E和蓝牙5. 2 等技术。
天玑9200+主频是3.0GHz,与骁龙 8Gen 2 相同,跑分要比骁龙 8Gen 2高一点点天玑 9200+ 处理器与天玑 9200 同架构,但所有核心频率增加,主频来到了 3.0GHz,与骁龙 8Gen 2 相同。跑分数据,天玑 9200+ 在 Geekbench v6 平台单核得分 2121 分,多核得分 5655 分。作为对比,骁龙 8Gen 2 的单核跑分成绩在大约 2000,多核成绩大约 5400。天玑9200+的安兔兔跑分大约为 136 万分,骁龙8Gen2 安兔兔跑分大约是128万分。
在 Geekbench v6 平台单核得分 2121 分,多核得分 5655 分联发科已经正式官宣,天玑9200+将于 5 月 10 日发布,这款处理器的 Geekbench v6 跑分已经出现。天玑 9200+ 处理器与天玑 9200 同架构,但所有核心频率增加,主频来到了 3.0GHz,与骁龙 8Gen 2 相同。 根据爆料的跑分数据,天玑9200+在 Geekbench v6 平台单核得分 2121 分,多核得分 5655 分。 作为对比,骁龙 8Gen 2 的单核跑分成绩在大约 2000,多核成绩大约 5400。
7天以上小米手环 8 搭载蓝牙 5.1,内置直流 3.87V 聚合物锂离子电池,型号为 M2239B1。上一代的小米手环 7 续航大约有9-15天左右。 小米手环 7 内置180mAh 电池。预计小米手环8的续航会比小米手环7续航略微提升一点。
2K+ 分辨率魅族 20 Pro 采用6.81英寸直屏,2K+ 分辨率、100% P3 广色域、120Hz LTPO 高刷、最高 1200 nit 全屏亮度、最低 2 nit 全屏亮度,同时支持防蓝光、DC 调光等功能一应俱全;魅族 20 Pro采用旗舰级性能配置,包括顶级处理器第二代骁龙 8、12GB 起步的 LPPDR5X 大内存、至高 512GB UFS4.0 极速闪存以及 36424 平方毫米的立体散热堆叠。
第二代骁龙 8,LPPDR5X+UFS4.0,2K三星E6 材质Super AMOLED屏幕魅族 20 Pro,内置第二代骁龙 8,LPPDR5X+UFS4.0,搭载了2K三星E6 材质Super AMOLED屏幕,屏幕尺寸6. 81 英寸,支持120Hz自适应屏幕刷新率和1500Hz瞬时触控采样率,峰值亮度可达1800nit,屏幕还通过了SGS抗蓝光、抗频闪护眼认证;破晓灰、曙光银、朝阳金三种配色,整机厚7. 8 毫米,重 209 克;镜头模组由 5000 万像素人像镜头、 5000 万像素广角镜头、 5000 万像素超广角镜头组成,支持全像素对焦技术搭配dTOF辅助对焦,官方称将使对焦速度提升33%。魅族20 系列的主摄均支持SMA防抖,最高8K视频录制和夜景录像功能;5000mAh电池配80W快充,支持50W无线GB三种存储组合,售价 3999 起。
后置三摄,主摄 5000万像素,屏幕分辨率2496*2224华为Mate X3有「羽砂玻璃版:羽砂白、羽砂黑、羽砂紫」、「素皮版:晨曦金、青山黛」五款配色可选;覆盖昆仑玻璃;超轻薄折叠四曲设计,机身重量仅239g,厚度仅5.3mm, IPX8级抗水。屏幕拥有2496*2224超高分辨率和426ppi 超高像素密度。同样支持最高120Hz 自适应刷新率以及1440Hz PWM 调光。影像方面:搭载5000万像素超感知主摄,1300万像素超广角镜头,1200万像素潜望式长焦镜头。并配备10通道多谱传感器和激光对焦传感器,支持100倍变焦和5倍光学变焦。续航方面:配备4800mAh 大电池,支持50W 无线W 有线W 无线反向快充。性能方面:与华为 P60系列一样搭载了骁龙8+ 处理器,配备了超冷跨轴石墨烯散热系统,导热面积提升了20%。价格:华为Mate X3:256GB:12999、512GB:13999;华为 Mate X3典藏版:1TB:15999
6. 67 英寸的OLED屏幕, 4800 万像素长焦镜头华为P60 系列在背部采用了矩阵型模组,官方称之为“凝光设计”,引入了“凝光贝母”工艺;华为P60 全系搭载了6. 67 英寸的OLED屏幕,拥有2700* 1220 刷新率,显示效果十分细腻,支持10. 7 亿色、1440Hz PWM调光。 同时支持全局色彩管理,支持莱茵专业色准双重认证;屏幕还支持LTPO动态高刷新率,支持1~120Hz自适应刷新率,还配备了昆仑玻璃面板,IP68 防尘抗水;相机方面,华为P60 Pro则进一步升级长焦镜头,配备了 4800 万像素RYYB的超聚光夜视长焦镜头,支持3. 5 倍光学变焦、OIS,拥有F2. 1 超大光圈;支持双向北斗卫星通信;5100 毫安时大电池+88W快充;首发搭载了全新的鸿蒙3.1,新增了AOD息屏显示功能。
6.67英寸的OLED屏幕,支持1~120Hz的LTPO刷新率华为P60 系列的屏幕搭载了骁龙8+ 4G处理器,6. 67 英寸的OLED屏幕,支持1~120Hz的LTPO刷新率,支持1440Hz PWM调光,拥有10. 7 亿色、全局P3 色域、HDR-P3HDR Vivid显示效果;覆盖四曲昆仑玻璃,支持IP68 防水,是全球首款德国莱茵专业色准双重认证的手机;相机方面,华为P60 支持F1.4-4. 0 十档可变光圈,搭载大光圈高透光镜群和RYYB超感光传感器,支持了华为XD Fusion Pro质感引擎;支持双向北斗卫星消息;首发搭载鸿蒙3.1,支持AOD息屏显示;价格,华为P60 的128GB版 4488 元,PP电子的官方网站256GB版本是 4988 元,512GB版本是 5988 元。
天玑9000芯片,LPDDR5+UFS3.1,11.61英寸LCD屏幕,支持144Hz刷新率OPPO Pad2主要配置包括:11.61英寸7:5比例LCD显示屏,拥有2800×2200分辨率和500尼特亮度,支持144Hz五档刷新率智能调节,2048级亮度自适应智能调光并支持手写笔。OPPO Pad2基于联发科技天玑9000,辅以LPDDR5内存和UFS3.1存储,内置9510毫安时电池、67W有线万像素前置摄像头和蓝牙5.3。软件方面,ColorOS13.1支持5G通信共享。可以自动共享手机的5G通信,从而直接上网、接打电话、同步手机验证码、拍照流转和应用接力。
5G双待双通(DSDS)、WiFi 6/6E、蓝牙5.3等骁龙7+ Gen2 采用了骁龙X62 5G调制解调器,在全球范围内支持多种频段和模式的5G网络连接。它还是首款在骁龙 7 系中实现了5G双待双通(DSDS)功能,在两张SIM卡都插入时可以同时使用两个不同运营商或不同网络制式(例如SA和NSA)的5G网络服务。除此之外,它还支持WiFi 6/6E和蓝牙5. 3 等无线技术。PP电子 app
Copyright © 2019-2023 PP电子「中国」平台网站 版权所有 备案号:鄂ICP备12015236号