聚合国内IT技术精华文章,分享IT技术精华,帮助IT从业人士成长

万字长文讲述大模型与知识图谱的关系

2023-05-19 19:28 浏览: 934767 次 我要评论(0 条) 字号:

引言

本文精选知识图谱峰会圆桌会议议题及知识图谱领域专家硬核观点,一起探讨大模型对知识图谱的影响及发展趋势。

精彩议题:

Q1:对昨天晚上发布的 GPT4 的见解,例如它的发布可能会对未来产生什么样的影响?

Q2:大模型未来是不是可以融合所有的 AI 能力,像图像识别、文字识别、语音识别、NLP 等等?

Q3:有了这种大模型以后,知识图谱还有意义吗

Q4:大模型的问题是回答缺乏事实的验证,知识图谱是不是可以来帮助解决问题?就像当年有一些搜索引擎也用了这种知识链接的方式去辅助搜索或者做引证。

Q5:知识图谱在大模型中如何去使用?比如说辅助它做训练、做微调,还是说在做推理阶段做 prompt,还是说做一些其他的工作?关于知识图谱具体在大模型中间使用的一些细节,想请老师们来展开地讲一下,比如说像三元组是不是可以去融入里面做训练等?

Q6:在大模型的这种能力下面,以前的一些任务,比如说像实体识别、关系抽取、事件抽取这些任务是不是还有必要去做一些了解?

Q7:(对王士进院长)国内在大模型这一块发展的情况大概是怎么样的?在科大讯飞,您的实验室,或者说您公司在这一块有什么样的布局?包括大模型方面,也包括知识图谱方面的一些项目,或一些计划。

Q8:在 GPT 发展迅速的大背景下,请各位专家用一分钟的时间给直播间的小伙伴在工作上面或者学习方面提一些建议。

硬核观点:

1. GPT4 是不太一样的,首先其本身增加了多模态,更重要的是它开始去尝试解决非常复杂或困难的、人类参与很多的任务,例如律师资格考试、奥林匹克竞赛等。

2. 通用人工智能可以分成第一是有感知智能,第二是有认知智能,第三会有决策智能,OpenAI 在做的 GPT 系列,它是站在认知智能角度往两边扩。

3. 知识图谱是有意义的,因为神经网络目前无法解决或者非常难以解决事实性准确的问题。要提供确定的事实性的东西,一定需要有准确的知识库。在这种情况下,知识图谱还是很有存在意义的。

4. 大模型训练语料里最为致命的一点是专业知识在大语料里边占比非常少的,很难在训练里面把专业知识给学习出来,所以在一个具体的应用领域还是需要知识图谱。

5. 并不需要过分的将很多的事实性知识去放在模型里面,可以将事实知识放在本身的外部库里,然后通过一个类似于向量数据库,或者说是向量的近邻检索的 reader 的方式去做搭配,最后作为一个整体仍然具有一样的能力,对于时效性和验真性的部分就完全通过外部的数据库系统去考虑。

6. 本质上大模型进来以后,并不是把知识图谱消灭了,而是发挥知识图谱和大模型这两种技术的优势,使得我们在需要可控知识或可控逻辑的时候,知识图谱会发挥更大作用;需要更自由的交互任务理解和生成时,大模型发挥更好的作用。

7. 对于大模型不太建议去使用知识注入的方法,而是用知识引导的方式。

8. AI 不是说一个算法或一个模型就能搞定,它需要有非常好的技术底座,就是深度学习的训练和推理的平台。

DataFun社区|出品

数据智能专家访谈 第15期|来源



01.

Q1:对昨天晚上发布的 GPT4 的见解,例如它的发布可能会对未来产生什么样的影响?



网友评论已有0条评论, 我也要评论

发表评论

*

* (保密)

Ctrl+Enter 快捷回复