AI的核心作用是降低预测的成本-Prediction Machines

发表评论

花3天阅读了这本书，对于AI的影响的经济学的视角很有价值的一本书，在没有chatgpt之前就写出了之后丰富的观点和判断。

目前AI的影响力比书中写的会变得更大，特别是自动化的方向上，已经涌现出来了很多有意思的产品。AI也正在消耗大量的token和算力。使用AI可以满足人的各种需求，无论是娱乐还是心理咨询，又或者是工作，AI都开始重度参与。

AI对于人类社会未来的改变将是巨大的，在今天去看的话，将来通过智能去推动社会进步的，比如发现新药、论证新的定理、创造新的商业公司，可能主要干活的是AI，人类更多的是辅助。

图一：AI系统的循环图

图二：AI项目的画布（基于图一）

图三：工作流

核心论点：

  1. AI的核心变化是降低预测的成本，提升了预测的准确度
  2. 判断AI项目成立，需要考虑的：
    1. AI的能力能否支持该项目（准确度、速度、成本）
    2. 数据是否充分（训练用数据、预测用数据、反馈用数据；项目间差异大，数据随数量增多价值会先增加后下降）
    3. 目标是否明确（清晰指标、模糊动态目标）
    4. 人工的介入程度（主导、辅助、无人工）
    5. 效果如何优化（监督训练标注、反馈、无监督训练）
    6. 相关的成本分析和收入预测
  3. AI和人的关系在互利共生：
    1. 能够部分替换原有的需要人工的工作，也可以加速人的工作，也可能发生工作岗位重组、改变特定工作所需技能和关注方向
    2. 事前预测，辅助人工进行判断；事后预测，形成对于人的动作的监控
    3. 人工和AI的约哈里视窗：已知已知（机器主导）、已知未知（人工主导）、未知已知（无法判断）、未知未知（可能出现逆向因果错误）。
    4. AI可以降低人的决策的压力和风险程度，从而改变人的决策。但无法承担决策的后果。
  4. 决策流程循环画布：输入、判断、预测、行动、结果、反馈、训练。其中输入、训练、反馈都是数据
    1. AI目前的能力在于基于输入进行预测，人类进行判断。随着准确度的提升，人类可以移交判断权利给AI，成为决策自动化。人类的判断力可以发现更多的奖励机制，奖励机制会变得更加重要。如果进一步机器还可以执行行动，那么就变成了完全自动化
    2. 缺乏有效预测，目前采用的是“满意原则”，基于现有的信息做出“足够好”的决策，而非最优解。而原来是因为预测能力不足而默认选择的选项可以重新考虑调整
      1. 例如机场的候机室，时间预测准确后没必要停留
      2. 电商预测够准确可以直接寄产品给用户，不需要的再退货
      3. 医学的活检是体验差的侵入检查，但是因为预测不准确而做
    3. 人类具有AI不具备的三种数据：感官很强大、是自身偏好的最终评判者、且隐私问题限制了AI能获取的数据
    4. AI擅长预测常见的、数据量充足的事件，不擅长罕见事件。异常情况下还是需要人来预测和判断。罕见事件目前主要通过AB实验、建模理解来处理。
    5. 预期最有可能实现完全自动化的任务：
      1. 除了预测，其他环节都已经实现自动化，如采矿
      2. 对预测结果快速响应的回报很高，如无人驾驶
      3. 缩短预测等待时间的回报很高，例如太空探索遥控会有时差
      4. 采矿是封闭系统，无人驾驶存在外部性，监管程度会高，监管是潜在的障碍，会需要政策的发展
  5. 典型的决策树：预测不够准确的时候，就需要对应的判断
    1. 预测的结果是A，预测正确概率&收益&损失、预测错误概率&收益&损失
    2. 预测的结果是B，预测正确概率&收益&损失、预测错误概率&收益&损失
  6. 任务是工作流，一系列决策的集合，决策基于预测和判断，以数据为依据，从上到下：工作流→任务→判断→具体工作
  7. 战略变革：
    1. 人工智能降低成本和加强控制存在权衡，受到不确定性的影响。加强预测可以降低冗余和损耗、减少中期调整的成本、人的工作变成判断，对应的是更主观的绩效评估方法。
    2. 数据的所有权和控制权很重要。预测准确和数据强关联。
    3. 人工智能优先会抢占现有的资源，如目前的收入、用户数量和体验。需要打破现在的关系。
  8. 人工智能的风险：歧视、数据稀少导致质量风险、错误输入的欺骗、多样性和个性的权衡、知识产权和盘问攻击、控制AI学习破坏性行为
  9. 举例的行业：金融、天气预测、法律、医学、招聘。提升专业信息的可读性，提供博弈树路径的概率和结果，加速研发迭代的过程

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注