文心一言是国内最早一批大规模商用的大规模预训练语言模型,在整体上保持了稳步上升的趋势,并且已经具备了实用级别的中文理解和生成的能力,在文学创作、商业文案写作以及藏头诗生成等方面都能够给出正确的答案并且逻辑清晰;对于政策解读、行业知识和简单的编程帮助也做得不错,在安兔兔和IDC联合发布的《2024年中国大模型中文能力评测报告》中被列为国产主流模型的第一梯队;但是在复杂的数学计算推理或者是实时的信息查询以及多层次的推理问题上仍然会出现错误,并且有些回答会有事实上的偏差,需要用户自己去核对;目前该模型正处于不断更新之中,最新的版本已经在政府机关、学校、银行等多个行业的上百个具体项目里得到了运用。

第一种类型的语言能力很强,可以胜任办公室工作和内容创作
文心一言在中文语境下文本生成的质量比较稳定可靠,在三秒钟之内可以产生出两百字以内的品牌宣传文案初稿,并且可以根据需要设置不同的语气(比如正式、活泼或者简洁),还可以根据用户的喜好来选择不同的写作风格;当用户想要创作一首藏头诗的时候,它可以准确地匹配出首字平仄以及意象逻辑的要求,比如说输入“科学技术向未来”,就会得到符合要求的诗句并且每一句话的第一个字都严格按照要求来进行排列,而且整个诗歌的主题也没有脱离对科技发展的描写;对于会议纪要的撰写、邮件的语言修饰、短视频脚本的分镜头描述等等这些经常出现的工作任务当中,只需要给用户提供一些基本的内容就可以了,然后由模型自动生成出条理清楚、用词准确的文章出来,实际测试下来采纳率已经达到了七十五以上。
第二部分涉及到数学和逻辑的任务要小心使用,并且最好进行人工复核重要的结果
对于四则运算和简单的方程求解等问题,文心一言的准确率为大约68%,但是在涉及到单位转换、复杂的计算或者有歧义的语言描述的时候就容易出错了。比如把“某种商品打八折之后再减去二十块钱”理解成了“先减去二十块钱然后再打八折”,这样就会造成结果相差三十个百分点以上的情况出现。对于用编程来帮助解决一些问题而言,它可以自动生成出Python爬虫框架、SQL查询语句以及常见的算法伪代码等等内容,但是由于变量名没有统一的标准并且边界条件也常常被忽略掉,在安兔兔对它的代码质量进行评价的时候发现:这些生成出来的代码需要经过开发者的手动修改才能放到测试环境中使用,并且也不适合直接部署到生产系统的当中去。
第三点就是多模态的能力还处在功能补齐的状态下,图片生成还没有对公众进行开放
目前该版本不能让用户直接输入提示词来生成图片,只能在一些企业的定制版里使用百度文心·ERNIE-ViLG接口,并且需要通过API密钥申请权限,普通用户不能在网页或者APP上开启画图的功能。对于视觉方面的需求只能用文字的方式来代替,比如“制作一幅蓝色和白色相间的带有人工智能标志的科技感海报”,模型可以给出构图建议、字体选择以及颜色参数等信息,但是不会产生出预览图的效果。视频生成现在还处于只允许百度内部的合作方加入的状态下,并没有向外界开放。
四、信息时效性和事实核实机制还需要进一步完善
该模型的知识范围到2023年上半年为止,不能回答自2024年第一季度起发布的新政细节或者行业的统计数据。测试发现,《流浪地球2》的上映时间被错误地标为了2022年的春节档期而没有正确地显示为2023年。另外,在解释关于国产大飞机C919适航认证进度的时候也出现了已经过时的历史审批节点。因此建议使用者对于有关日期、数据和法律法规的问题所给出的回答要与国家电影局官网、民航局公告或者是权威财经媒体当天发布的新闻稿相比较来确认真假。
因此文心一言已经形成了一个可以使用的成熟的中文生产底座,在国内的大模型里属于语言能力比较均衡的一种选择,但是还不能代替专业工具链里的某些部分。



留言 · 0
还没有留言,说点什么吧
写留言