AI系统工程师之路
最近让AI帮我整理了一下自我分析,未来的规划等,最终决定选择AI系统工程师+SaaS之路。然后请它为我分析了未来的学习之路,实战项目方向,以及未来收益的预期,AI当然整理的很不错,但我还是习惯自己整理一遍,主要目的还是加深印象,将AI生产的内容自己消化一遍再能输出,才算真的是自己的信息。
AI系统工程师+SaaS选项
首先,这次的选择应该是非常务实的。
之前想学法语,提高日语,或者学个木工以及种地,多少是带着些理想主义的逃避色彩的,毕竟那些路子没走过,未知变数太多。
另外,我一直担心的AI抢饭碗的问题,也得到一些缓解,打不赢它,就加入浪潮好了。学AI编排,最差也能对自己以后自己做SaaS做内容有所帮助提高效率,做的不错的话,还可能做一些技术支持接一些外包之类,看起来也是有前景的。
这次不抛弃编程,没彻底重新做人设,不选择极端路线。没有推倒重来,而是叠加转型,应该算是非常理性的了。
这次选择不是“闪亮综合物体症”,而是一个生态闭环。
这次目标其实是四部分:除了做AI工程系统外,还要做SaaS工具,甚至还要做些YouTube,而英语也不打算丢。看起来依然很杂,甚至比之前三年的语言+独立游戏的目标还杂乱,但我和AI对话几轮之后,我们还是得到一个不错的结论。这四个方向不是孤立的,是一个完美的齿轮组:
- AI工程系统(核心引擎)
- 多Agent系统
- 自动化Pipeline
- 将AI和工程结合
其实,就现在对AI工程的理解,它非常类似现在的后端微服务架构逻辑。既不用需要深入了解LLM底层模型(那个调优和训练资源根本不是普通公司能做的),又能充分利用我当前对后端工程的理解,而其应用层做多Agent协作和自动化Pipeline对我当前自己想做一些项目,或者所谓的一人公司的计划,简直就是绝配。项目驱动对于AI工程系统的学习和演练也有极好的促进作用。
- SaaS工具(变现出口,复利点)
- 自动数据分析的工具
- AI辅助决策的工具
这是AI工程的“副产品”。例如做一个自动化套利的polymarket工具,做一个游戏美术生成的Pipeline,或者自动的内容生产或市场宣传的工具,觉得好用了,做个极其简单的壳丢出去收订阅费。和先前做SaaS工具的区别是,第一:降低了对前端的需求,减少了进入维护地狱的概率;第二:内部嵌入了AI功能,更符合未来需求。
- YouTube(流量和信任)
- 只做技术记录和AI实践
这里只是做技术记录和导流,不去讨好其算法,就当作一个云端记录简历。这里分享自己搭建Agent的坑,吸引同行,工作机会或潜在用户。建立技术信用+顺便导流。
- 英语(底层操作系统) 这是最基础也最重要的,无论看文档接海外API,还是twitter,discord混开外开发圈子,或者之后移民生活,做技术支持,这就是核心基础技能。
这次要谨记的坑
!!!极度重要!!!
克制技术洁癖,绝不能过度工程化 能用第三方API,绝不造车轮;能做简单的脚本,就绝不做复杂微服务容器编排;能做CLI就不做复杂前端。目的是跑业务线,不是秀技术,不是为了架构而架构,不要复杂的第三方中间件,就用间的go,python调用AI的API,最简单的fastAPI,最简单的sqlite,不要沉迷解耦,不许追求pipeline优雅。
严格执行“俩周MVP”法则 任何要做的SaaS的AI小工具,从产生想法到挂上stripe收费连接,绝对不能超过俩周,做不出来就砍。 但是“俩周MVP”法则,不是做出来一丢不管了,那成垃圾制造垃圾场。我的目的是养蛊,必须俩周做完,一周做分发推广(做个YouTube讲解,做一些discord,X基本宣传,根据SaaS不同进行不同的分发,例如indieDev,unity社区,还是crypto社区等。),然后一周看情况,不妙就转战。【硬约束】 当前考虑的Polymarket工具是直接赚钱的工具,不是复利系统,是临时性的。 同时只允许一个活项目,不然精力会严重分散。
简单的录制视频 YouTube只用于技术分享和记录,不做复杂剪辑,直接OBS屏幕录制,用最差的英语讲解代码和踩的坑,录制直接上传。只能把视频制作的成本降低到接近0,才能坚持下去。 但是基本的SEO,封面和内容钩子还是需要稍微学一下就好。
具体实现规格
- 每个月出一个新的SaaS工具。2周编码1周分发推广1周休闲观察情况,决定取舍。
- 每周做一次内容和想法的整理记录,3小时左右。
- 周一到周五每天上午2小时学语言:1~1.5小时英语0.5~1小时西语
- 周一到周五每天4小时AI系统核心,要1小时学习,3小时动手项目,即实际处理SaaS
这是一个跑10年的系统,不是短期的。执行必须收敛,不能扩散。
预期的收益
A:AI系统能力成功收敛。概率40%左右。
- 建立起AI工程能力,有几个实际可用系统,少量小规模变现(小工具小产品顾问)
- 收入演化:
- 0-1年:800美元/月
- 1-4年:3000美元/月
- 4-6年:5000美元/月
- 6-10年:7500美元/月
- 时间支出:
- 日工作4小时
- 收入结构:
- SaaS/工具
- 少量技术顾问类的高价值输出
- 场景描述:
- 在西班牙有个农庄,财务已经滚起了雪球,接一些高价技术顾问单,在美洲欧洲之间候鸟式旅居。
- 难点:
- 执行是否持续是关键变量
B:AI工程能力没明显优势,但有低压技术收入和被动收入。概率30%左右。
- AI方向尝试过,但没有明显优势;有一些副收入;偶尔接一些低压力远程收入
- 收入演化:
- 0-2年:2000美元/月
- 2-4年:3500美元/月
- 4-10年:5500美元/月
- 时间支出:
- 日工作5小时
- 场景描述:
- 在西班牙有个农庄,每天上午花1-2小时看日志回复邮件,下午自己写一些代码优化。剩余时间就打理农庄或者带老婆欧洲自驾。
- 收入结构:
- 远程工作或兼职为主
- SaaS副收入辅助
C:AI或SaaS某个点爆了。概率10%左右。
- 某工具猜中需求;或抓住了AI窗口期
- 收入演化:
- 0-2年:1000美元/月
- 2-4年:6000美元/月
- 4-10年:20000美元/月
- 时间支出:
- 极大概率已经退出技术一线,纯投资或生活导向
- 备注:
- 可能发生,但不要去做规划
D:系统失控。概率20%左右。
- 项目太多太散;AI方向浅尝辄止,未形成任何优势
- 收入演化:
- 0-2年:500美元/月
- 2-6年:2000美元/月
- 6-10年:不稳定
- 场景描述:
- 此时只能依靠底盘资产,增加被动收入到4K,在美洲安逸度日。买不了大农庄了。
- 问题:
- 这个路径不是能力问题,而是执行结构问题。
总结
具体是哪个路,主要还是以下几点决定: - 是否精力分散:一定要通时间只做一个主项目。 - AI能力深度:不要只用AI工具,而是构建一个系统。 - 不要完美主义回归,不要跑回去重构优化重写 - 不要节奏断裂,不要做俩周停一个月 - 精力管理:能否保持长期的稳定节奏。
当前能力评估: - 工程能力:7/10 - AI能力:2/10 - 产品能力:4/10 - 执行稳定性:未知 这种配置是完全可以走入路径A的。
现在具备的优势: - 有资产盘底,不需要暴富 - 技术能力足够 - 心态成熟,不寻求赌命
要明白自己的方向: - 不要尝试“选对路径”,构建一个能自动收敛到最优路径的系统 - 目标不是去提高正确率,而是避免失控进入路线D - 耐力,理性,不焦虑;只要将时间拉到5年以上,自然而且会达到路径B或A - 只要中等的AI能力,工程整合能力,加插长期持续输出即可。 - 不需要很强的AI能力或很强的产品商业能力 - 需要系统工程能力,对多个东西进行拼接 - 一定一定要做出“能用的东西”,而不是优雅的东西
如果我将SaaS转为主目标,而将AI作为辅助,后果是: - 收入差不多 - 但更快获得结果反馈,更容易有行动感 - 但是会更焦虑销售,被迫关注marketing - AI做主,会是一种更偏重能力积累的;SaaS做主,会更偏产品和市场运气。 - 核心问题依然只有一个,克制住做复杂产品的冲动 - 必须只做“低维护产品”:不做平台型,不做客服密集型 - 必须限制项目复杂度:2周MVP限制,不许重构超过1次 - 必须来自自己的使用场景:必须自用->再卖,不要做想象的需求
AI系统工程师工作情况
技术栈
- 基础编程能力【轻松搞定】
- python/go编程,少量的JS/TS前端支持
- 脚本编写,API调用
- JSON处理
- 异步调用并行调用
- 错误处理
- 理解Pipeline, 状态管理,错误重试,限流,日志
- API调用和LLM调用【重点要学的】
- 调用OpenAI/Claude/Gemini API
- 控制temperature, max_tokens, system prompt
- 将输入输出结构化JSON输出
- 编写结构化,可控,可复现的promot
- 工具调用 【也要学习】
- LLM -> function calling 函数调用
- 函数返回接口,再交给LLM
- 多Agent系统设计 【要学习】
- LangChain/LlamIndex,只需要了解核心概念即可,不要沉迷源代码
- AutoGen,CrewAI了解多智能体agent框架
- planner agent规划
- executor 执行器
- critic 检查
- RAG检索增强 【要学习】
- 向量数据库VectorDB,例如Pinecone, 或者带pgvector插件的PGSQL
- embedding
- 相似搜索/模糊检索
- 自动化pipeline 【稍微针对学一下就行】
- 对接各种webhook,可以借助Make/Zapier快速处理出MVP的外围管线
- 定时任务
- 数据流
- 状态流转
- 成本优化 【要针对学一下】
- Token控制
- 模型的选择
- 缓存结果
- AI + 数据系统,如SQL/Pipeline 【基本都是会的,针对加强一下即可】
- AI + 工具生态,如插件,自动化【基本都是会的,针对加强一下即可】
- AI + 垂直领域,如游戏方向【基本都是会的,针对加强一下即可】
注意点
- 仅会 prompt 的人不值钱
- 会用AI没用,必须会搭建AI系统
- 用AI系统的人确实会越来越多
工作场景
- 调试一个Pipeline
- 用户输入 -> LLM分析 -> 工具调用 -> 返回结果
- 修复BUG:LLM输出不稳定BUG;JSON格式错误BUG;工具调用失败BUG
- 优化prompt或者外挂RAG来添加记忆
- 添加一些feature
- 用go写了个功能函数,将函数描述携程prompt,让大模型调用
- 写一些 glue 粘合代码,例如接入数据库,调用其他的天气API等
- 测试优化
- 结构化prompt,查看记录日志之类
- 查看token开销,将一些不用LLM处理的移除出,将昂贵的token开销进行降级或编码处理
- 编写eval评估系统,对不同的AI或策略进行反向评估
SaaS项目的方向
自动决策化系统
AI + 数据 + 决策 + 自动化执行
Polymarket套利工具
首先,我之前搞得Polymarket套利工具,已经完成的包括 - 15分钟虚拟币市场,赚了2000多刀吧。 - 5分钟虚拟币市场,但是没有实际运行 - 天气系统市场,测试了,数据还是不大稳定可靠 期望进一步去做的,包括: - Musk推文市场 - 专家自动跟单(不是大鲸跟单)
开发者AI工具
例如 CLI工具,Unity/VSCode插件,资源优化pipeline,CI/CD的AI助手
游戏开发Pipeline工具
其次,我想做的SaaS就是美术工具,特别是之前失败过的像素动画生成工具。 但是独立游戏成功率太低,到时候看情况,是否要进一步完成其相关的工具,例如: - 自动关卡剧情设计工具啦 - 剧情配乐工具啦 什么的,总之是为不同类型的独立游戏生成一些资源的pipeline工具。自己也能偶尔用用,也熟悉,卖出去也不错。
垂直行业自动化
自动报表生成,内容处理pipeline等
自动内容生成和市场工具
不管是twitter, discord宣传,回复,还是偶尔打打广告营销什么的,也不管是youtube还是网站简单SEO宣传这些,都需要一些简单内容生成工具和市场营销协助工具,也是一样,可以自己用用,也可以改改推出去,都算不错的。
避免的方向
- 通用SaaS
- 过于内容驱动的SaaS
- 重运营平台的SaaS
Polymarket套利工具的位置
- 首先,这些市场会不停的更变,维护精力会消耗巨大,收益不稳定,和长期主义是冲突的。
- 但是,它有数据获取,市场API接口,自动决策逻辑,对于AI系统环境搭建,是优秀的测试环境。
- 而且,它有直接金钱收益反馈,也是很不错的激励。 只是,要将这个项目降级为 AI系统训练环境,但不能做为核心收入来源。所以:
- 不能无休止的优化收益率,例如手动优化套利策略或者手动优化参数,是没必要的。
- 多用LLM做市场判断,测试多agent决策系统,做自动策略生成。
Polymarket套利工具实现策略
- 流程
- 脚本拉取天气API,历史数据,拉polymarket市场价格
- 做数据采集,API接入,数据清洗,特征提取,概率估计,EV计算
- 让代码规则引擎少选出部分候选机会
- 风险过滤约束
- LLM只对这部分少量候选做分析和解释,
- 解释异常情况
- 汇总多预测源冲突
- 生成日志和复盘总结
- 练习LLM API,prompt结构化,工具调用,workflow和AI成功控制能力
- 最后再下单或人工确认
- Kelly计算
- 风险控制
- 仓位管理
- 回测复盘
- 下单逻辑
- 这里练习多agent协调,状态管理和自动化工程
- 开销
- 加入每小时扫描
- 每天得到5个值得分析的,去LLM分析俩次
- 一次候选给LLM分析,一次估计消耗输入上下文10K token,输出估计2K token
- 一天估计100~200k token
- token价格
- codex plus一周大约100万token,刚刚够用,主要做精细推理,做决策和策略生成。
- gemini flash五小时大约就支持200万token,完全多余,可以做一些高频调用的数据整理和初步分析。
- AI不停的告诉我不能用这种限制式AI,必须用 Pay-as-you-go 按量计费,那么就接那些便宜AI试试就好。gemini便宜的100万token就几毛。
- 优化点:
- 只做python,go,sqlit,只做CLI,不做前端
- 前期只做6个美国市场,其他先不碰
- 4周,一个月成为一个会搭建AI工作流的人
进阶
- 只有如果做Polymarket其他工具,例如15分钟虚拟币市场,专家跟单,MUSK推文,目的就是:每个项目2周,加宣传营销2周。俩个月出俩个小型polymarket工具,然后就应该,三个月有一个完整拿的出售的AI编排项目。此时,应该有一些脚本框架被沉淀了,例如:工具注册脚本,LLM连接脚本,RAG脚本等。
- 再迭代一些游戏开发工具或自动内容发布工具,应该六个月就完全入门,这些项目可以稍微偏中型一些,但是时间限制依然不变。这时应该有AI核心框架的积累了,包括llm,rag,function_tools,workflow,eval这些了。
- 1,2年应该有10几个项目,也完全成长为AI系统工程师,手里有2-3个项目也已经有一些收入了。