究竟是如何调用 AI 为自己的程序所用?

[PeiXyJ]

一直很好奇如何调用 AI 为自己所用,现在的教学网站也没看到相关的内容.我现在理解就是给 AI 写一个固定的提示词然后让 AI 返回特定格式的内容.例如:

你是一个 Shell 专家 你可以根据我输入的 shell 命令猜测我接下来要输入什么 并给我补全,只需要返回一个你觉得可能性最大的 shell 就可以了.返回结果需要严格遵守规则.
例子 1
输入 du - 
返回 
{
   "shell":"du - h"
}

例子 2
输入 du -s
返回 
{
   "shell":"du -sh"
}

然后 AI 返回

{
"shell":"du -h --max-depth=1"
}

最终我的程序解析这个返回再处理给前端吗? 有没有大佬解释下该内容?

[cin]

Function Calling https://platform.openai.com/docs/guides/function-calling

[whoosy]

不要没有场景硬造场景

[PeiXyJ]

@cin 感谢

[xiadengmaX1]

https://huggingface.co/learn/agents-course

[GBdG6clg2Jy17ua5]

卧虎藏龙的 V2EX ，又解决了我一个疑惑。

[unco020511]

大概就是这么个意思,返回固定格式,你取数据

[unco020511]

真正在做应用时,一般都是 prompt 约定+response_format+后处理校验 来达到这种目的

[rqYzyAced2NbD8fw]

https://platform.openai.com/docs/guides/structured-outputs

ollama 也有这个功能，在 ai 端就保证输出 json 格式正确，可以省掉你的提示词

[MagmaBlock]

cline 是一个 vscode 里的编程插件，他与 LLM 交互的设计值得学习一下


这是之前看的一个讲 Cline 原理的视频：
Cline 自动编程代理-如何与大语言模型交互-用 Cline 的方法实现一个 todo 程序
https://www.bilibili.com/video/BV1rm6sYEEQo

[PeiXyJ]

根据以上大佬讲的内容自己消化了一下,大概就是这个意思.写了一个小文章...

https://www.peixinyi.com/archives/699fb979-7ec3-4127-96ef-eda6200891c6