更新时间: 浏览次数: 942
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26夜视相机app拥有九宫格构图线辅助完美构图,适配超过1000款机型,且支持无噪点,聚焦,调焦,让用户在夜间能进行高清拍照,还带有超级手电筒的功能,让夜间拍照拥有闪关灯LED辅助,使得拍出的照片光亮充足,操作简单,喜欢的朋友们快来下载吧。夜视相机app亮点1、夜间高清拍照,查水表记读数,闪光灯LED常亮辅助拍照,方便贴心,不再担心周围环境的光线问题。2、无噪点,聚焦,调焦,通过降噪、调焦获得高倍清晰视图,让用户能够在昏暗、光线不足或黑夜的环境下拍摄出超清照片。3、九宫格构图线辅助完美构图,成像处理质量高,给用户最专业的拍摄。夜视相机app特色1、横屏拍照的流畅体验大屏视觉,沉浸无干扰的全景拍摄。2、最亮手电筒,极简设计,完全不用花钱,操作极简,省电省内存。3、360全景照明,超亮的手电筒,户外,郊外照明,从此不怕有天黑。夜视相机app优势1、非常好的降噪处理,支持聚焦和调焦,一键切换成手电筒。2、一键添加九宫格,辅助拍照更完美,晚上也能拍出高清美照。3、一款晚上拍照也清晰的相机,拍照不用担心光线太暗。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26证件照拍摄app是一款功能齐全的照片制作软件,为自己拍摄专业照片,有多种场景格式,也可以在线修改服装背景,还可以根据需要编辑图片,强大的功能还能快速生成所需大小的照片,感兴趣的朋友们快来下载吧。证件照拍摄app优势1、支持一寸,二寸,三寸常见的证件照尺寸也支持建造师,社保证,健康证等各种类型的证件照。2、支持证件照专用白色,红色,蓝色,做为背景颜色。3、电子证件照直接保存到手机本地相册,可分享微信,QQ,短信,邮箱,多种保存方式任意挑选。4、自动识别人像,对人脸包含美肤,美白,大眼,嘴唇,美瞳等项的自然美化处理,保证用户拍出好看又实用的证件照。证件照拍摄app特色1、使用手机可以轻松制作专业照片,各种尺寸任意选择。2、可以根据不同模式进行精细铺垫,自动配色等不会造成模糊。3、可以对图片进行美容等,还可以随时随地拍摄常规合格的最美的证明图片。4、可以快速换衣服,软件还配备了全套正式模板。证件照拍摄app亮点1、拍摄完成后可以选择纸质照片打印服务。2、自动校正亮度,色调模式等,表现出完美的状态。3、强大的功能还能快速生成所需大小的照片。4、支持多种场景格式,可以在线修改服装背景,还可以根据需要编辑图片。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26古风相机app拥有时下最流行的古风元素,如古风诗词,字体,贴纸,滤镜,印章等,是一款将传统国画艺术与现代摄影技术融为一体的相机应用,能将您脑海中幻想的那些唯美古风画面一一化为现实,仿佛时间穿越,化身时间相机,穿越回到古代,喜欢的朋友们快来下载吧。古风相机app特色1、精选中国古诗文经典,赏中华诗词,品生活之美。2、支持诗词检索,可以更快的找到自己想要的诗句,让照片充满诗情画意。3、内置了百款高品质专业古风滤镜,以酡,桂,檀,碧,水,黛,绛,嫣为类别的滤镜,让您的照片古色古香。古风相机app亮点1、结合古代文学作品描写自然景物的四种对象风,花,雪,月作为贴纸,古代元素的印章,画框,让您的照片更添诗情画意。2、提供多种古风模板壁纸,让照片更加有韵味,满满宫廷风。3、提供多款古风字体,可供用户任意使用。古风相机app优势1、各种唯美古风滤镜特效在这里都能自由选择,不仅可以品诗词之美,还能打造出满意古风照。2、支持诗词检索,您可以直接搜索,快速找到喜欢的诗词,然后一键添加到照片中。3、支持将手机照片一键批量导入,各种编辑功能免费使用,不管是字体,裁剪还是背景等都能修改。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.2623优惠券app,输入商品名称关键词,便由系统为你智能搜索相关优惠券信息,分分钟在此沉浸绿色购物的线上体验中,下单介绍流程十分简洁快速,就算是家中老人也可以很快上手学会,随手下单参与限时活动,就有机会可以于此对大牌进行更密切的关注。23优惠券app介绍及时推送了许多热门新款商品哦,有需求的各位可以在线进行搜索与查找,还能及时进行店铺收藏。各种知名大牌入驻平台,所有的商品都是非常优质的,严格审核,可以放心购物,领券后下单购买更划算,快来薅羊毛吧。23优惠券app下载亮点爱省钱的用户专门定制的薅羊毛平台,里面与大量的商家有合作,可以领取大量的优惠券。不仅优惠多,而且每天都有特价商品,用户需要拼手速来抢,还有更多的红包等着你。与各大一线商家合作,为用户随时随地提供选购、休闲娱乐及生活服务等领域领取商品隐藏优惠券。23优惠券app更多精品推荐,精选商品列表每天推送,为你带来最优质个性的商品页面。巨省优惠券,超多购物省优惠券等你领取,每一单商品都可以通过商品页直接领券购物。限时活动,各种实惠的限时活动等你领取,每天的秒杀活动,商家折扣等,福利不断。新人福利,超多新人福利等你领取,新人注册,享受免单大礼包,免费购物。正牌商家,各种知名正牌大厂入驻,建立官方旗舰店,购物有保障。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26秒拍app是一个集观看拍摄剪辑分享于一体的超强短视频工具,更是一个好玩的短视频社区,用户可以通过它进行短视频拍摄,制作,上传,还可以观看他人视频,并且有最好玩的短视频集锦和好友视频分享,喜欢的朋友们快来下载吧。秒拍app特色1、【韩娱频道】打造韩流前沿资讯,追踪欧巴女神最新动态,看男团劲歌热舞、最新MV花絮。2、【女神频道】热舞健身美女达人带您飞,最新潮流美妆教程分享,围观女神经的逗比日常。3、【明星频道】最新明星资讯,明星生活360度大曝光,来看看爱豆私底下素颜逗比的一面。4、【搞笑频道】爆笑片段绝对能攒足您一年的笑点,花式作死简直辣眼睛,吃饭时一定慎入。秒拍app亮点1、【热门频道】里面有全网最热视频精选,独家自制娱乐八卦猛料,最强惊悚搞笑现场,最新电视剧综艺花絮,给您绝对的满足。2、【悬赏玩法】拍视频还能赚钱,您再也不用找妈妈要零花钱了。3、【视频特效】手把手教您玩儿特效,自己就能制作视频大片。4、【0流量视频】即使没WIFI,也可享受随时随地想看就看。秒拍app优势1、【智能变声】独家提供视频实时变声功能,能把您的声音变成蜡笔小新,汤姆猫,河南话,四川话等好玩声音,逼格瞬间体现。2、【炫酷MV主题】多达30种不同风格的炫酷MV主题,让您的视频一秒变大片,让视频拍摄更美。3、【一键唤起】轻松将手机里的视频分享给家人,朋友以及微博,人人网,qq空间等第三方平台和SNS社区。4、【高能水印】提供40多种不同个性的动态视频水印,彰显您的个性。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26百家万词王,不同多学科的作业功课,各位家长妈妈们再也不必发愁,随时在此自由帮助孩子管理学习时间,学习外语采用独家的科学记忆方法,坚持每天使用,就可以有效记住各种生硬单词和语法,下载百家万词王app,词汇量上涨,自然对于孩子们而言阅读听力更加简单。百家万词王亮点1、多样化的教学模式和方式,让大家学习的兴趣更高。2、可以根据不同的学习情况,来制定不同的辅导方式,让学习的针对性更强。3、线上的辅导,时间更加的自由,可以利用碎片化的时间来强化练习,稳步提升专业水准。百家万词王下载功能1、高效词汇记忆法,独家词根词缀记忆法,英语学习再也不枯燥,方法好成绩提高自然快。2、在线多种学习方式,不同年级的孩子可以放心去学习,还有很多启蒙教育。3、科学的学习方式以及严谨的教学体系服务于广大的学员,帮助广大的学员快速的掌握英语词汇,提升英语水平。百家万词王app更多1、拥有大量的教学视频资源,可以随时在线观看教学视频,可以帮助练习你的英语口语能力,随时在线了解学习资源。2、提供了非常丰富的英语知识,可以帮助你轻松学习英语,覆盖的词汇类型多多,每一位用户可以更轻松去学习。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26POCO相机app是国内最大的原创图片社区推出的拍照工具,具有多镜头拍照及视频,美化处理,一键多平台分享等功能特色,变化出无数种特效,满足用户任何的后期需求,且能够轻松记录用户的品质生活,感兴趣的朋友们快来下载吧。POCO相机app特色1、内置多款镜头让您的手机摄像头更强大,并且双重曝光镜头,鱼眼拍照,四格镜头,拼图镜头,移轴镜头,让您体验拍照的乐趣。2、iPhone版还支持单反相机专业的对焦和测光分离功能,内置GIF短视频镜头,让摄影达人和视频创意达人除了用图片表达外,还可以实现创意超动态短视频摄影。3、超赞的滤镜由POCO和摄影大师联合打造。POCO相机app亮点1、光效多变,数十款真实镜头制作的光斑光线,视界从此大不一样,画面因您而美丽。2、梦幻散景,用手机就能制造迷人的散景效果。3、颜色、光效叠加,一切随心,同时泡泡光加彩虹等于梦幻,为照片演绎无限效果。POCO相机app优势1、行业中更文艺的文字装饰,表达您的情绪,让您的图片更有内涵。2、盖时间,盖地点,盖天气,盖心情等等,盖上您的专属印章。3、全新升级的第二代拼图功能,提供时尚海报,视觉艺术,斜切创意,实时预览,还有自由拼图,图片拼接,图中拼图,满足您对多图片处理的各类需求,让您的微博分享更有吸引力。
蚂蚁新村今日答案11.26 蚂蚁新村职业小知识问答11.26》有毒小说,享受沉浸小说的文学书海中,全程系统猜你喜欢的小说书籍,快速整理出适合你的书单,分分钟在有毒小说网手机版里为你推送更多意料之外的惊喜,随时一键搜索自己想看的小说,有声小说开启你的全新视听盛宴模式,下载有毒小说app,分分钟于此进行优秀的阅读体验。有毒小说介绍国内原创精品小说平台--有毒小说旗下APP,在这里,我们搭建魔幻奇诡的风格体系,开拓泛幻想文学原创新风潮。让您的每一次阅读都能体验不一样的幻想世界。有毒小说app下载特色【免费读书】免费新书热书天天送,让你根本停不下来。【智能推荐】私人定制,精选推荐,转角遇见你的真爱女主。【云端同步】书架、阅读进度、书签、笔记自动云同步。【用户书单】一步创建专属书单,从此爱上分享和发现。有毒小说网手机版更多涵盖玄幻奇幻、穿越言情、总裁豪门、现代都市、武侠修真、灵异科幻、青春校园各大类型,热门小说排行榜单想看就看。书城全新升级,新增火热推荐功能,配合完美升级的榜单与分类页面,热门小说想看就看,让你再也不愁遇到书荒。
谷歌发布全球最强开源大模型Gemma,7B性能超越Llama 2 13B!谷歌和OpenAI,已经卷出了新高度。这轮番放深夜炸弹的频率,让人不得不怀疑双方都已经攒了一堆大的。
一声炸雷深夜炸响,谷歌居然也开源LLM了?!
这次,重磅开源的Gemma有2B和7B两种规模,并且采用了与Gemini相同的研究和技术构建。
有了Gemini同源技术的加持,Gemma不仅在相同的规模下实现SOTA的性能。
而且更令人印象深刻的是,还能在关键基准上越级碾压更大的模型,比如Llama 2 13B。
与此同时,谷歌还放出了16页的技术报告。
技术报告地址:https://storage.googleapis.com/deepmind-media/gemma/gemma-report.pdf
谷歌表示,Gemma这个名字源自拉丁语「gemma」,也就是「宝石」的意思,似乎是在象征着它的珍贵性。
历史上,Transformers、TensorFlow、BERT、T5、JAX、AlphaFold和AlphaCode,都是谷歌为开源社区贡献的创新。
谷歌:今天我就来给你表演一个什么是Open AI
而谷歌今天在全球范围内同步推出的Gemma,必然会再一次掀起构建开源AI的热潮。
同时也坐实了OpenAI「唯一ClosedAI」的名头。
OpenAI最近刚因为Sora火到爆,Llame据称也要有大动作,谷歌这就又抢先一步。硅谷大厂,已经卷翻天了!
Hugging Face CEO也跟帖祝贺。
还贴出了Gemma登上Hugging Face热榜的截图。
Keras作者François Chollet直言:最强开源大模型,今日易主了。
有网友已经亲自试用过,表示Gemma 7B真是速度飞快。
谷歌简直是用Gemini拳打GPT-4,用Gemma脚踢Llama 2!
网友们也是看热闹不嫌事大,召唤Mistral AI和OpenAI今晚赶快来点大动作,别让谷歌真的抢了头条。(手动狗头)
同规模刷新SOTA,越级单挑Llama 2 13B
可以看到,Gemma-7B模型在涵盖一般语言理解、推理、数学和编码的8项基准测试中,性能已经超越了Llama 2 7B和13B!
并且,它也超越了Mistral 7B模型的性能,尤其是在数学、科学和编码相关任务中。
在安全性方面,经过指令微调的Gemma-2B IT和 Gemma-7B IT模型,在人类偏好评估中都超过了Mistal-7B v0.2模型。
特别是Gemma-7B IT模型,它在理解和执行具体指令方面,表现得更加出色。
一整套工具:跨框架、工具和硬件进行优化
这次,除了模型本身,谷歌还提供了一套工具帮助开发者,确保Gemma模型负责任的使用,帮助开发者用Gemma构建更安全的AI应用程序。
– 谷歌为JAX、PyTorch和TensorFlow提供了完整的工具链,支持模型推理和监督式微调(SFT),并且完全兼容最新的Keras 3.0。
– 通过预置的Colab和Kaggle notebooks,以及与Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等流行工具的集成,用户可以轻松开始探索Gemma。
– Gemma模型既可以在个人笔记本电脑和工作站上运行,也可以在Google Cloud上部署,支持在Vertex AI和Google Kubernetes Engine (GKE) 上的简易部署。
– 谷歌还对Gemma进行了跨平台优化,确保了它在NVIDIA GPU和Google Cloud TPU等多种AI硬件上的卓越性能。
并且,使用条款为所有组织提供了负责任的商业使用和分发权限,不受组织规模的限制。
但,没有全胜。
不过,Gemma并没有能够在所有的榜单中,都拿下SOTA。
在官方放出的评测中,Gemma 7B在MMLU、HellaSwag、SIQA、CQA、ARC-e、HumanEval、MBPP、GSM8K、MATH和AGIEval中,成功击败了Llama 2 7B和13B模型。
相比之下,Gemma 7B在Boolq测试中,只与Mistral 7B打了个平手。
而在PIQA、ARC-c、Winogrande和BBH中,则不敌Mistral 7B。
在OBQA和trivalent QA中,更是同时被7B和13B规模的Llama 2 7B斩于马下。
技术报告
谷歌这次发布的两个版本的Gemma模型,70 亿参数的模型用于GPU和TPU上的高效部署和开发,20亿参数的模型用于CPU和端侧应用程序。
在18个基于文本的任务中的11个中,Gemma都优于相似参数规模的开源模型,例如问答、常识推理、数学和科学、编码等任务。
模型架构方面,Gemma在Transformer的基础上进行了几项改进,从而在处理复杂任务时能够展现出更加出色的性能和效率。
– 多查询注意力机制
其中,7B模型采用了多头注意力机制,而2B模型则使用了多查询注意力机制。结果显示,这些特定的注意力机制能够在不同的模型规模上提升性能。
– RoPE嵌入
与传统的绝对位置嵌入不同,模型在每一层都使用了旋转位置嵌入技术,并且在模型的输入和输出之间共享嵌入,这样做可以有效减少模型的大小。
– GeGLU激活函数
将标准的ReLU激活函数替换成GeGLU激活函数,可以提升模型的表现。
– 归一化化位置(Normalizer Location)
每个Transformer子层的输入和输出都进行了归一化处理。这里采用的是RMSNorm作为归一化层,以确保模型的稳定性和效率。
架构的核心参数如下:
两种规模的参数如下:
训练数据
Gemma 2B和7B分别针对来自网络文档、数学和代码的主要英语数据的2T和6Ttoken,进行了训练。
与Gemini不同,这些模型不是多模态的,也没有针对多语言任务的SOTA进行训练。
谷歌使用了Gemini的SentencePiece分词器的子集,来实现兼容性。
团队对Gemma 2B和7B模型进行了微调,包括有监督的微调(SFT)和基于人类反馈的强化学习(RLHF)。
在有监督的微调阶段,研究者使用了一个由纯文本、英文、由人工和机器生成的问题-答案对组成的数据集。
在强化学习阶段,则是使用了一个基于英文偏好数据训练出的奖励模型,以及一套精心挑选的高质量提示作为策略。
研究者发现,这两个阶段对于提升模型在自动评估和人类偏好评估中的表现,至关重要。
监督微调
研究者根据基于LM的并行评估,选择了数据混合物进行监督微调。
给定一组保留prompt,研究者会从测试模型中生成响应,从基准模型中生成对相同提示的响应,随机洗牌,然后要求一个更大、能力更强的模型在两种响应之间表达偏好。
研究者构建了不同的提示集,以突出特定的能力,如遵循指令、实事求是、创造性和安全性。
我们使用了不同的基于LM的自动评委,采用了一系列技术,如思维链提示、使用评分标准和章程等,以便与人类偏好保持一致。
RLHF
研究者进一步利用来自人类反馈的强化学习(RLHF),对已经进行过有监督微调的模型进行了优化。
他们从人类评估者那里收集他们的偏好选择,并在 Bradley-Terry 模型的基础上,训练了一个奖励函数,这与Gemini项目的做法相似。
研究者采用了一个改进版的REINFORCE算法,加入了 Kullback–Leibler 正则化项,目的是让策略优化这个奖励函数,同时保持与最初调整模型的一致性。
与之前的有监督微调阶段相似,为了调整超参数并进一步防止奖励机制被滥用,研究者使用了一个高性能模型作为自动评估工具,并将其与基准模型进行了直接对比。
自动评估
谷歌在多个领域对Gemma进行了性能评估,包括物理和社会推理、问答、编程、数学、常识推理、语言建模、阅读理解等。
Gemma2B和7B模型与一系列学术基准测试中的多个外部开源大语言模型进行了比较。
在MMLU基准测试中,Gemma 7B模型不仅超过了所有规模相同或更小的开源模型,还超过了一些更大的模型,包括Llama 2 13B。
然而,基准测试的制定者评估人类专家的表现为89.8%,而Gemini Ultra是首个超越此标准的模型,这表明Gemma在达到Gemini和人类水平的性能上,还有很大的提升空间。
并且,Gemma模型在数学和编程的基准测试中表现尤为突出。
在通常用于评估模型分析能力的数学任务中,Gemma 模型在GSM8K和更具挑战性的 MATH基准测试上至少领先其他模型10分。
同样,在HumanEval上,它们至少领先其他开源模型6分。
Gemma甚至在MBPP上超过了专门进行代码微调的CodeLLaMA 7B模型的性能(CodeLLaMA得分为41.4%,而 Gemma 7B得分为44.4%)。
记忆评估
近期研究发现,即便是经过精心对齐的人工智能模型,也可能遭受新型对抗攻击,这种攻击能够规避现有的对齐措施。
这类攻击有可能使模型行为异常,有时甚至会导致模型重复输出它在训练过程中记住的数据。
因此,研究者专注于研究模型的「可检测记忆」能力,这被认为是评估模型记忆能力的一个上限,并已在多项研究中作为通用定义。
研究者对Gemma预训练模型进行了记忆测试。
具体来说,他们从每个数据集中随机选择了10,000篇文档,并使用文档开头的50个词元作为模型的prompt。
测试重点是精确记忆,即如果模型能够基于输入,精确地生成接下来的50token,与原文完全一致,便认为模型「记住了」这段文本。
此外,为了探测模型是否能够以改写的形式记忆信息,研究者还测试了模型的「近似记忆」能力,即允许在生成的文本和原文之间存在最多10%的编辑差距。
在图2中,是Gemma的测试结果与体量相近的PaLM和PaLM 2模型的对比。
可以发现,Gemma的记忆率明显更低(见图2左侧)。
不过,通过对整个预训练数据集的「总记忆量」进行估算,可得一个更为准确的评估结果(见图2右侧):Gemma在记忆训练数据方面的表现与PaLM相当。
个人信息的记忆化问题尤为关键。如图3所示,研究者并未发现有记忆化的敏感信息。
虽然确实发现了一些被归类为「个人信息」的数据被记忆,但这种情况发生的频率相对较低。
而且这些工具往往会产生许多误报(因为它们仅通过匹配模式而不考虑上下文),这意味着研究者发现的个人信息量可能被高估了。
总的来说,Gemma模型在对话、逻辑推理、数学和代码生成等多个领域,都有所提升。
在MMLU(64.3%)和MBPP(44.4%)的测试中,Gemma不仅展现了卓越的性能,还显示了开源大语言模型性能进一步提升的空间。
除了在标准测试任务上取得的先进性能,谷歌也期待与社区共同推动这一领域的发展。
Gemma从Gemini模型计划中学到了很多,包括编码、数据处理、架构设计、指令优化、基于人类反馈的强化学习以及评估方法。
同时,谷歌再次强调使用大语言模型时存在的一系列限制。
尽管在标准测试任务上表现优异,但要创建出既稳定又安全、能够可靠执行预期任务的模型,还需要进一步的研究,包括确保信息的准确性、模型的目标对齐、处理复杂逻辑推理,以及增强模型对恶意输入的抵抗力。
团队表示,正如Gemini所指出的,需要更具挑战性和鲁棒性的测试基准。
团队成员
核心贡献者:
其他贡献者:
产品经理、项目经理、执行赞助、负责人和技术负责人:
参考资料:
https://ai.google.dev/gemma/