Applied AI FDE in real scenerios (lecture note)

Posted on In

Below are my own raw note. The images belong to the speaker or the organizer. Content for reference only. The speaker and organizer hold the ultimate authority. Original language in Chinese, so note is in Chinese.

everform平台

Victor - red tech / head of fintech / business solution (financial industry 京东金融是他的老客户) 目前是传统ML和synthetic data

对FDE的看法：hype > 实际价值

汇丰和谷歌合作，谷歌提供200个FDE；citysky项目；

没有平台就不是FDE，否则只是engineer；目前的FDE大都not outcome based。

过去是以人为单位，造成scalability问题；现在是knowledge management and distillation

==secret sauce: 除了钱，expertise and use case是吸取的重要资源。e.g. 汇丰被谷歌吸收业务经验==

Tao (Irene) Du 蚂蚁集团（gate.ai、支付宝云图 etc.）场景落地和规模化思考

假设你是CEO：

  1. 大部分企业会自己组ai团队，做中心系统，出问题：
    • 大部分业务都到了ai团队，大家都排队
    • ai团队没有时间思考，业务部门为什么要这样做ai？这个问题和团队规模无关
  2. 各个业务部门做自己的ai：dashboard更加好看，data更好看
    • 上下游不协调（上游使劲生成内容，下游砍掉几乎全部。这是进步而非回滚）
      • 不同团队和环节有不同的KPI，只放大该节点的KPI，而非整体效果
      • 解决方法：统一节点和KPI，从根本（用户增长）作为优化对象
    • ai把瓶颈转移。ai最大化产量，而不是用户注意力。
  3. ai团队为专家(domain knowledge)定制
    • ai团队形成工作流，端到端结果
    • ai大量从过去retrieve，相关性而非因果，导致ai从非因果的内容变成因果
    • 解决方法：除了对结果测试可观测和分环节测试的能力
    • 很难build一个稳定的生产系统
    • 核心部门准时上线，赶ddl，导致没AI（鼓励业务负责人没什么用）

每个阶段企业遇到的问题不一样，导致FDE的名字也会变。ai创新不是职责问题，而是如何发生的问题。

  1. 有机制和意识：持续review过去做业务，ai可以突破哪些约束，改变业务方式
  2. ai在某个production节点上的突破能不能优化整体
  3. 培养完整的业务+ai native能力

FDE自身经验+企业内部知识 的飞轮

没那么快，变成企业报表上的能力

infra好做，场景难找。组织变革为中心，组织如何定义ai的作用和角色以及目标，而非具体的任务。产品和研发不一定能合并，但是==业务和产品==可以合并。这些问题更重要：过去为什么他们需要分开？为什么现在要合并？

全栈后，判断力是业务，调整形态。产品带研发还是研发带产品，具体的业务是什么？知道哪些步骤，深入哪几个步骤？

切点创业会成功。retail.ai: redesign workflow，把打电话的workflow用llm tool calling重做。为什么这样做？理解前因后果。

杨：连续创业和产品（VR快客，反馈：速度太快，导致无法撮合；卖给家具场，记录场三天拆，契合照片和；；窗帘拼装系统2014，和老板聊天调研，量尺增加成交率；直接预览和订购，杀死拼装需求；；智能炉灶2018；；载道科技2020，园区展厅数字化共享化，场景结合角色（创始人vs中层管理））

business model和场景、业务为核心驱动的思考。

AI+教育

  1. 找到市场空间（香港DSE，有付费能力且有刷分机制）

先用人工把交付跑通，在用AI降本增效，同时打开更多可能性。

ai落地场景：

  1. 对问题的真实（e.g. 高考付费，不是高分，实际是家长想让孩子获得不属于他的结果）、充分、全貌（周边要素和制约）了解：对问题不断思考。今日头条，规律之下市场会妥协
  2. 想象力和表达力
  3. 协作模式的重新定义（产品经理，定义节点和节点之间的边界）

每一个case，都是流水线上的一件产品。

新的利润的模型：

非技术岗位：

  • 不要盲目追求技术，追求场景、人、生意的理解。
  • 每小时各个服务调用的时间是不一样；用户的预期管理；场景认知是稀缺资产；想象力构建解决方案，执行力
  • 年轻人的核心优势：不是既得利益者，可以快速换赛道/掀桌子；快速失败，试错积累经验（中老年人试错成本高），不要坚持错误

对待新的技术，有些是潮流，有些不是。绑在人们缺点上的产品和技术会带来改变。

少年创业的时光令人怀念。欲买桂花同载酒，终不似，少年游。
与其参加创业比赛，不如真实赚钱。天使客户比天使投资人更重要，因为客户会骂你。

大家都是草台班子，用心一点点就可以超越不少人。融资不如融业务，业务带来产品能力。盘根错节的原因，理清原因和逻辑（e.g. 预制菜不是因为健康便宜，而是政府税收和食品安全审计）。

如何validate自己的认知？竞争力判断？

  • 资源型（资源转化为竞争力）不适合，比如楼。要挑

editor: 最重要的是实际业务。要立志成为一个实际domain的ai专家。