第55期:重新认识大模型

2024-03-17

去年 ChatGPT 爆火,大语言模型也越来越被更多的人了解到,从那以后有大量的以 AI 为卖点的产品出现,如总结 PDF、视频内容的,翻译,抠图等,甚至是套壳版的 ChatGPT,这些产品都是以大模型为核心能力,大模型之外并没什么亮点,也有一些产品蹭一下 AI 的风口,强行给自己的产品引入 AI,为了 AI 而 AI,再加上大模型返回结果的不确定性,我一直认为当前的大模型不适合做严肃性的产品。

最近了解了一下 Coze,准备给周刊做一个 Bot,以方便用户查询往期内容,比如你忘记了之前推荐的某个项目的名字,就可以通过这个 Bot 以语义化的形式来搜索,或者筛选和总结你想要的内容。经过对 Coze 的深度使用,好像对大模型的理解发生了些变化。

先来说一下 Coze,它是一站式的 AI 开发平台,每个 Bot 可以视为一个应用,可以将 Bot 发布到豆包、飞书、微信等平台。Coze 除了提供了大模型能力,还有插件、工作流、知识库等能力,插件可以让 Bot 调用外部 API,比如调用自己已有的 HTTP 接口、搜索网页等,工作流可以编排复杂的业务流程,其中每个节点都可以调用大模型、调用插件,或者是编写代码,每个 Bot 可以有多个工作流,可以按需调用不同的工作流。同类的产品有开源的 Dify

与前面提到的以大模型为核心能力的产品不同的是,Coze 这种模式开发出的产品,可以让大模型作为辅助,或者让大模型无缝融入已有的产品。这是思路上的不同,应该是以产品为核心,大模型做能力增强,而非以大模型为核心,围绕大模型做产品

此外,Coze 的插件是可以单独发布出来,供不同的 Bot 来使用的,这意味着各种数据源可以打通,并且可以互相调用和结合。想象一下未来的手机,把系统当作一个 Bot,各个产品如微信、微博、京东、腾讯新闻等,他们每个都视为一个插件,将自己的数据源聚合到系统这个 Bot 中,这些数据整合到一块,系统根据用户习惯在不同的时间展示不同的内容,或者是减少一些碎片化的繁琐操作,而不是一个个孤岛 App 间跳来跳去。

这个思路的产品其实之前就有,那就是苹果的 Spotlight,但由于没有大模型的加持,以及三方开发者适配的不够积极,所以也没有很好的效果。OPPO 前段时间发布了 AI 手机白皮书,他也是类似的思路,并且也提供了类似 Coze 的开发平台。其他手机厂商应该也都在做类似的事,苹果前几天也发布了 MM1 大模型,除了比拼摄像头,以后的手机又有新的看点了,未来可期。

最后,前面提到的周刊 Bot 还在调试中,目前的效果还不太满意,等我调试好了再发布。


技术

Open-sourcing our progress on Tailwind CSS v4.0

Tailwind CSS 发布了 v4.0 的更新计划和第一个 alpha 版。v4.0 中最大的升级是重写的新引擎,能够带来 10 倍的性能提升,并且部分内容是用 Rust 编写的,此外 v4.0 抛弃了 PostCSS,换成了性能更强的 Lightning CSS。

Rolldown 正式开源

Rolldown 是 Vue 团队基于 Rust 开发的打包工具,未来将会用于 Vite 并取代 Rollup,除了能带来性能上的提升,还能解决当前 Vite 开发和生产的产物不一致的问题。

开源

Bruno

最近大家都对 Postman 产生了不满情绪,因此也诞生了多个 Postman 的替代品,Bruno 就是其中之一,也是做的比较完善的一个。Bruno 基于 Electron 开发,完全开源,但也提供收费的版本。

CloudExplorer Lite

开源的轻量级云管平台,可以聚合多个云服务商进行统一的主机管理、账单管理等,并且提供多租户能力,满足企业级的需求。

产品

Xterminal

Xterminal 是一个 SSH 工具,除了常规的终端功能,还可以可视化展示服务器信息和文件目录,并且集成了 AI 能力,可以实现智能提示和命令解答。