新智元报道
编辑:Aeneas 好困
【新智元导读】夸克,也下场大模型了。甫一问世,夸克大模型就迅速登顶权威测评双榜第一,幻觉率大幅降低,可以预见,风靡年轻人的夸克APP,要掀起新的飓风了。
最近的各大手机厂商和互联网公司,都在卯足了劲儿地发布大模型。
而其中的一匹黑马,显得格外引人注目——
千亿级在C-Eval和CMMLU两大权威评测中拿下双榜第一,百亿级在法律、医疗、问答等领域的性能评测中名列榜首。
如此擅长人文社科,再结合夸克以往的业务,阿里巴巴智能信息事业群为夸克大模型安排的这条路线,逐渐明晰了起来。
没错,答案就是——做通识问答和专业搜索!
在年轻人中人气极高的夸克APP,是一个集合搜、用、存的智能信息产品。而有了夸克大模型后,这项过程,就都可以进行智能化升级。
要知道,如今的夸克APP,25岁以下的年轻用户,占比已经超过了一半。在夸克大模型的加持下,夸克APP必然在年轻用户中,再掀一股飓风。
效果有多好?请看——
搜索、健康、教育、办公,轻松hold住
夸克大模型,是一个面向搜索、生产力工具和资产管理助手的应用型大模型,应用场景有通用搜索、医疗健康、教育学习、职场办公等等。
搜索
现在的千亿参数模型,已经可以在部分夸克端的内测场景里提供服务。
比如,让它介绍《狂飙》的演员,答案不仅有演员表,还能介绍谁在剧里演了什么。
这道历史题「光武盛世、开元盛世、贞观之治、文景之治,是哪个朝代」,尤其体现了夸克大模型的能力。
如果问普通搜索引擎,这种一连串的问题,是搜不出来的。
而反事实的问题,就更有难度,因为不仅能测出模型学过的知识,还需要模型进行推理。
如果问它,秦始皇喜欢骑什么牌子的摩托车?
它就会推理出,秦始皇是秦朝的,摩托车是哪年发明的,所以秦始皇没有机会骑摩托车,更没有喜欢的品牌。
下面这个多轮对话下中英混合的case 「in和on有什么区别」,已经到了可以自学英语的程度。
在多轮对话中,我们可以不断对它提出需求。
可以看到,夸克大模型的回答,比一般的搜索结果在内容的全面性和专业性上,都要好得多。
健康
健康,是夸克团队要重点建设的方面。
搜索引擎的核心群体,就是健康群体,因为这个群体并没有其他软件或APP提供很好的信息服务。
在健康上,夸克团队做了许多行业数据建设和知识建设,建成了完整的健康知识图谱。
另外,他们还建设了大量的医典百科、医典问答这类面向C端的数据,并且整理了大量指南、标准、书籍。
在「如何预防流感」这个问题中,夸克大模型回答了不同的方法,包括个人卫生、疫苗等等。同时会体现学到的知识点援引出处。
可见,团队在行业里建立的知识权威性,大模型确实学到了。
而且,最理想的情况,模型不会只是回答健康的科普问题,还要具备比较好的推理能力。
「咳嗽三天,是怎么回事?」
如果在搜索引擎里问这个问题,是无法获得丰富、完备的信息的,因为咳嗽对应的疾病非常多。
而在夸克大模型在给出一个回答之后,还会有推理和反问。
界面中会出现一张卡,询问用户是否有其他情况。提交后,大模型会根据当前症状给出一个更精准的疾病范围。
这个过程的核心,就是医学相关的知识推理,和医学知识的具体信息。
并且,团队还在准备多模大模型,上传生化检验单后,就可以给用户提供更准确的信息。
教育
在教育类产品上,不止要看能不能答,更要看为什么能答。
比如这个应用题,一个圆桶周长25米,深40厘米,这桶水有多少千克呢?
夸克大模型回答时,不仅会列出解题的过程,还会输出解题会用到哪些公式,涉及哪些关键知识点,比如各单位的换算关系。
然后先求圆的面积,然后算出体积,再得到最后的结果。
办公
此外,夸克大模型还可以化身为职场打工神器。
举例来说,一个关于销售演讲技巧的PPT有8页,逐页看的话,很花时间。但只要把文档上传上去,夸克大模型就可以列举出关键点,让效率大大提升。
而在大家常用的文案写作上,夸克也做了几个小工具。比如,打卡网红露营地的时候想发个朋友圈,这时就可以让AI写得有诗意一点。
国产大模型,学霸喜 1
可以说,全栈自研的千亿级参数的夸克大模型,是国内LLM班级里妥妥的学霸了。
C-Eval是由清华大学、上海交通大学和爱丁堡大学合作构建的综合性考试评测集,覆盖52个学科,是目前权威的中文AI大模型评测榜单之一。
CMMLU是由MBZUAI、上海交通大学、微软亚洲研究院共同推出,包含67个主题,专门用于评估语言模型在中文语境下的知识和推理能力。
两个榜单的权威性毋庸置疑。
评测过程中,夸克大模型经过了上万道专业考题的检验,覆盖几十个学科和不同学段。无论是常识问题还是社会科学知识,夸克大模型都展现出了处理复杂、多层次问题的能力。
基于精调后的训练数据,夸克大模型能够更好地理解问题的上下文、逻辑结构和语义关系,从而更全面、深入地分析和解决问题。
在5471道真题考试中,夸克大模型不仅成功超越了GPT-3.5,甚至部分成绩还优于GPT-4——
45个科目中,11科优秀(准确率≥80%),25科及格(准确率≥60%)
总结来说,夸克大模型整体的水平与GPT-3.5相当,但能更好地理解中文知识体系并进行文本写作。
在多语言翻译、写代码、安全合规、内容创作等领域,处在国内行业头部水平。
多模态方面,夸克大模型支持相册搜索、AI相机场景下的文搜图、图生图、图生文等。
从上面的演示可以看出,这些知识和创作对应的能力,和夸克的产品之间,恰恰就有着极强的对应关系。
破除大模型幻觉,夸克是专业的
大模型要做产品,幻觉就是一道必然要解决的难题。
在蒋冠军看来,要解决大模型应用的问题,就要先解决知识正确性的问题。
凭借着搜索技术能力的积累,团队在解决幻觉这个困扰绝大多数模型的老大难问题时,有着相当大的优势。
能解决幻觉难题,首先就是因为夸克在搜索知识体系的整体积累。
在健康场景下,错误率甚至能降到5%以下。能达到如此高的可用性,也是因为很多搜索结果都是医生三审三校的结果。
在模型的预训练中,因为数据规模越大,引入的错误知识也会越多。这是个悖论。因此,团队花费了大量时间和精力,做了数据准确性校验和对齐。
为什么能成学霸?
除了专门针对大模型的技术创新之外,夸克经过多年发展所积累的4个优势,也是培养出这位「新学霸」的原动力。
1. 数据全面
首先,夸克积累了40多个行业,几乎涵盖了整个中文领域的知识。
2. 多语言知识
其次,在英语等其他语种上,夸克也凭借着在通用搜索领域的深耕,积累了丰富的知识和数据。
对于大模型来说,知识的理解、对齐和校验,是至关重要的。而夸克凭借着通用搜索的经验,已经在内容的理解方面,建立起了一个非常完整的体系。
3. 数据丰富
第三,夸克拥有很高的数据丰富程度。
搜索引擎本身就是海量的网页数据,在夸克的数据库里,这个数字是千亿级。
这也意味着,需要有一个强大的工程系统来处理如此大规模的网页数据,从而完成去重、分析等工作。这种能力和大模型的需求非常匹配——大模型要大算力,传统搜索引擎本身就具备大算力。
此外,对于搜索引擎来说,如何去判断搜索结果的好坏,以及如何在大量的站点中进行筛选,都需要团队有一个高质量的评估和评价体系。而这个体系,对于大模型来说也同样适用。
类似的,在大模型和人类对齐方面,传统搜索积累的经验,也能够更好地帮助团队。
4. 人才储备
其实,通用搜索涵盖的范围非常广,包括网页搜索、图片搜索、视频搜索、文档搜索等等。而支持这些搜索功能的技术体系和人员,就是大模型所需的多模技术能力和人才体系。
在这方面,夸克有着深厚积淀。
夸克技术负责人蒋冠军
此外,夸克的产运团队在智能技术的产品创新上,也有着丰富的经验。这是因为,夸克的目标是成为一个工作和学习的个人助手,因此所有的智能化产品,都是以技术为核心驱动的。
至于业务层面,夸克在健康、教育等关键的行业里,不仅有着较好的数据积累,同时团队成员里还有医生和老师的从业经验。这些人才带来的一手经验,对于构建大模型所需的高质量SFT样本和专业知识来说,至关重要。
5. 知识增强
最后,夸克还利用了搜索和知识图谱文档的积累,对自家的大模型进行了知识增强,从而极大地缓解了常见的幻觉问题。
搜索,大模型应用的最佳平台
ChatGPT掀起大模型热以来,业内一直在不断探索,大模型的落地场景究竟在哪里?
业内有观点认为,以搜索为代表的信息服务场景,是大模型开发及应用的最佳平台。
在今年5月的I/O大会上,谷歌将生成式AI和自己传统搜索服务结合起来,发布了全新Search Generative Experience(SGE)。
简单来说,谷歌会利用AI为搜索的内容提供说明,回答用户提出的问题,帮用户做旅行规划等等。
期间,用户不再需要货比三家般的在多个链接之间来回跳转,也不用花心力去判断哪个链接背后的信息是真的,因为所有可用的内容都被集中到了AI收集到的回复之中。
在最近的更新中,谷歌又添加了让SGE在AI生成的回复内容中附加图片和视频的功能,帮助用户更加直观的了解自己搜索的知识和信息。
不仅如此,SGE的AI响应中还会标注发布时间的链接,来支持由AI生成的回复内容。如果用户对于相关的信息感兴趣,点击链接就能更加全面地了解具体的内容。
而夸克大模型在夸克APP的落地,则是以扎实的技术,跑通了中国的「大模型 搜索」之路。
夸克的自研之路
之所以夸克能够自研大模型,其核心是发挥了在搜索引擎和数据上的优势。
蒋冠军表示,要从千亿级的网页里,筛选出数亿的高质量网页,这个过程非常复杂。不是做搜索引擎的厂商,要完成这项任务,成本和代价非常高。
首先,获取海量的中文数据和知识本身,难度就非常大。
其次,网页里的垃圾数据非常多。这时候,就需要把行业数据和知识图谱的积累,输入进大模型作为补充。
第三个核心挑战,就是人类知识对齐和SFT精标数据对齐。真正有用的SFT样本数据很稀缺,这需要各行各业有经验的人去做。
对此,夸克分了两个阶段进行尝试。第一版不行,就马上重组了新的专业团队,其中不只有资深的从业人员,还有来自各行各业的外包人员。然后才一步一步地走到了今天。
以后,夸克大模型会优先落地通识问答、专业搜索等场景,充分满足年轻人自我提升和充电的需求。
在可见的未来,会有更智能的下一代产品,让AI助理无处不在。
「AI时代已经来临,大模型应用的全新体验临界点近在咫尺。」
随着自研大模型的全面升级,全新的夸克,必然会给我们带来全新的惊喜。