ChatGPT API 接入微信公众号(服务号)的坑及实现 （Part I）

三百六十行，行行出状元。当红AI模型ChatGPT，能回答各行各业的各类问题。虽然它并不是每次都能给出正确答案，但提供的信息，一般都有用，就看你懂不懂对话和提问的技巧了。

ChatGPT提供API给开发者调用，于是就想整合到微信公众号试试。当然，本文并不局限于ChatGPT。如果使用其他AI模型的API, 在实现方面，应该也大同小异。

以下主要分两个部分聊聊:

1) 应用场景

2) 技术实现 - 数据流

应用场景

当粉丝点开微信公众号后，比如公众号德国数据圈，就会看到一个对话框。

针对粉丝输入的各种问题，公众号会给出相应的回答。这些回答的内容，可以通过编程来实现。

我希望的是，公众号通过编程，后端接入不同的AI模型的API，根据用户的对话内容，返回AI模型给出的答案给用户。目前仅以ChatGPT以及文本输入为例。

在这个应用场景中，由于特定原因，会出现很多细节。虽然没能全都实现，但可以作为Backlog来参考:

• 以单一用户为例
  • 输入方式多样化(文字，图片，语音，视频等)
  • 输入数据的数据量
  • 输入数据的频率
  • 对连环发问与回答的期待
  • 对历史数据的要求
  • 用户友好的回答
  • 程序出错或宕机时，相应的回答
  • 提问使用网络合规词
  • 回答问题保持客观
  • 对提问次数的限制
  • 对提问字数的限制
  • 充值提问
• 以群体用户为例
  • 当很多用户同时访问时，不应该有太大延迟
  • 每个人的提问及回答数据不共享给其他人
• 对话
  • 针对提问的质量进行一定的限制或者引导
  • 能对回答的质量在后端进行再次提升

技术实现 - 数据流

先上一个最终实现后的截图，问了几个简单的问题。强烈推荐找些ChatGPT问话技巧的资料看看。

聊技术实现之前，先聊下相关的限制。

• 时间
  • 没太多时间。主要是心血来潮试试。
• 支出
  • 目前除了办理公众号要交点手续费，软件方面都是用的免费的云服务。
  • 根据访问量，估计会升级云服务获取更多软硬件资源。
• 终极目标
  • 主要是想熟悉下公众号开发，随便整合一下各类AI应用玩玩。
• 工具与资源
  • 目前以Azure云为主, 用到Quarkus Web App等。相信在别的云上，也有类似的服务。
  • 数据备份用的是MongoDB 数据流主要如下，细节方面下一次再聊。

注：如果尝试聊天，可能有不稳定的情况，欢迎反馈。