Continue.dev开发环境插件怎么用?从安装配置到本地模型接入的完整指南
我最早接触 Continue.dev 是在一个 side project 里,当时想找个能连本地模型的 AI 编程助手。用了一段时间,我的感受是它不像那种“黑盒式”的补全工具,更像一个可以自己调教的开...
我最早接触 Continue.dev 是在一个 side project 里,当时想找个能连本地模型的 AI 编程助手。用了一段时间,我的感受是它不像那种“黑盒式”的补全工具,更像一个可以自己调教的开...
1.1 概念界定:从LocalAI到OpenAI兼容接口服务 我第一次接触LocalAI,是在一个不能把数据传出内网的开发项目里。团队希望保留现有的OpenAI SDK调用方式,又要把模型跑在自己的机...
1.1 产品定位与核心价值:面向 AI 绘画创作的工作台能力概览 我头一回打开 InvokeAI 的时候,心里其实有点打鼓。之前用过几个 AI 绘画工具,有的打开就一个输入框,干净得让人不知道从哪下手...
1.1 大模型结构化输出的现实需求 我第一次认真思考"结构化输出"这件事,是在一个挺尴尬的场景里。当时我负责一个自动化工单分类的小项目,模型本来输出得好好的,跑了两天突然开始返回一段带解释文字的 JS...
1.1 项目定位、典型应用与能力边界 我第一次接触Wav2Lip是在做一条多语言配音视频的时候。当时手上有中文的音频和英文的原始画面对不上,手工对口型几乎不可能,朋友提了一句“你可以试试Wav2Lip...
我第一次接触faster-whisper是在一个会议录音转写的项目里。当时手头跑着原版Whisper,速度慢得让人想砸键盘,一小时音频要等上大半天。后来同事丢给我一个链接说“试试这个”,我就此掉进了f...
我接触SD.Next图像生成界面是从一次本地部署开始的。这个界面把文生图、图生图、参数调节和结果管理放在一个Web页面里,入口清晰,适合想认真玩AI绘画的人。下面我按自己的使用习惯,把界面定位、启动入...
1.1 从手工提示词到声明式LLM程序 我最早做LLM应用的时候,每天的工作就是和提示词死磕。改一个字,跑一遍测试,看看效果有没有变好;不行就再改,加个“请仔细思考”,删个“务必”,换种措辞再来一轮。...
1.1 推理框架背景与TensorRT-LLM的定位 我最早接触大模型推理部署那会儿,大家手头的选择其实不多。想把一个训练好的模型跑起来,要么直接用HuggingFace的generate()慢慢磨,...
我记得第一次在树莓派上跑语音识别的时候,那叫一个折腾。Python环境装了一堆依赖,模型加载慢得让人怀疑人生,内存直接飙到报警。后来朋友丢给我一个链接,说“你试试Whisper.cpp”。我当时还犯嘀...