​拥抱ChatGPT:从一起玩转到原理分享


时间:2023-03-07

拥抱ChatGPT:从一起玩转到原理分享

文| 预备队员 李鹏坤

  微软旗下人工智能研究室OpenAI发布的一款聊天机器人ChatGPT,在最近一段时间抢占各大头条,展现出其强大的潜力,受到业界和学术界的广泛关注。因此,Dian团队也先后举办了两场ChatGPT相关活动,从使用体验和技术原理两个层面,帮助团队同学进一步了解ChatGPT。

午间沙龙,初探ChatGPT

2月24日中午,在高老师的推动、董季坤和李鹏坤同学的组织下,Dian团队午间沙龙第一期活动顺利开展,主题便是最近的大热点——“ 一起玩转ChatGPT!”经过活动报名,团队15名对ChatGPT感兴趣的同学于703开展了一场小小的使用交流和经验分享。

image.png

图1 董季坤同学介绍ChatGPT的使用方法

董季坤同学首先帮助大家现场使用ChatGPT、AI EDU等AI对话机器人,演示了包括账号注册、角色扮演、绕开限制等过程。并结合生活实际场景,以规划减脂方案为例,分别以直接询问、诱导式提问、中间纠正的方式让ChatGPT生成了一份从饮食到运动的全面健身指南。这一过程体现了ChatGPT交互式解决问题的特色,但也显示出其在数学逻辑、部分事实上不够严谨的问题。故认为现在还只能作为专业人士的辅助工具,即使用者要具有判断对错和提供引导的能力才能充分发挥其作用。

之后大家纷纷尝试与ChatGPT进行一些或有趣或使用的对话,本次沙龙在大家的激烈讨论中落下帷幕。

技术分享,ChatGPT背后是什么

2月26日晚,在团队例会上戢林飞同学为各位同学带来了《一Dian分享之ChatGPT》。戢林飞同学作为以自然语言处理NLP为主要研究方向的队员,对ChatGPT背后的原理有着深入的了解,他为了例会分享做了充分的准备,让队员们从更深入的层面了解了这个“网红”AI。

他从ChatGPT的日常应用场景切入,给大家展示其强大的上下文理解、推理以及信息整合能力。ChatGPT既可以被直接应用于许多场景和产品,也可以为其他场景应用和产品提供支撑。与其他人工智能产品相比,ChatGPT似乎更加“平易近人”,在人们的日常生活中都已经获得应用。

随后他着重了介绍人工智能在自然语言方面理解力的来源,即大规模预训练加后续微调的NLP范式。他对比了作为编码模型的Bert和解码模型的GPT的差异,给大家展示了ChatGPT聪慧外表下的硬核内心。

戢林飞同学进一步介绍说微调时使用指令训练、Prompt等方式在部分牺牲模型性能以及限制回答的情况下,来让模型做出更符合人类预期的回答,并避免触及一些敏感话题。所以在成功的背后也有无数的智能工人在打标、微调时付出的努力。

image.png

图2 戢林飞分享ChatGPT的背后故事

同样,这次分享也展示了ChatGPT模型存在的胡编乱造、长期记忆欠缺等问题。模型可能会出现一些事实性错误。同时,由于模型训练的时效性,实际生产环境中也可能会存在一些问题。因此,ChatGPT目前只能扩展个人专业能力并扩大边界,无法替代专业人才。并借此转接到当前的项目组工作方向,研究Prompt机制以及用来解决长期记忆问题的Summary机制。

戢林飞同学认为,这轮AI技术突破具有改变人机交互的能力,未来将会出现一批基于人类自然语言作为交互手段的应用,这将是一个新时代的开端。在科技史上,技术变革引起人机交互创新,从而演化出新的商业生态的例子比比皆是。ChatGPT只是其中的一个典型应用,它展示了基于人类自然语言和机器的交互体验有多么惊人。ChatGPT作为一个商业上十分成功的AI,不仅值得队员们去使用,更值得去学习其运用的技术,通过这两次分享,AI已经不再是一个陌生人了,团队也会在大AI时代到来前把握机遇,多多与这样时髦的“网红”AI 接轨。