在 30 fps 的实时流媒体场景中，每帧预算仅 33.3 毫秒（60 fps 下为 16.6 毫秒），开发者需要在此窗口内完成摄像头帧采集、神经分割、着色器应用和画面合成。超出这一预算即会导致丢帧和卡顿。手动优化通常需要数周时间分析火焰图并调整底层代码，而标准 AI 编程助手虽能生成样板代码，却难以针对目标硬件优化或在真实延迟条件下保证视觉保真度。
据 Google Cloud 介绍，AlphaEvolve 通过将云端模型推理与本地硬件执行结合，改变了这一范式。在与 DoIt 的合作中，AlphaEvolve 被用于自主优化一款 macOS 直播应用的生产级 Swift 代码，发现了手动性能分析未覆盖的性能空间。虽然该案例聚焦视频管线，但这一“分离循环”模式同样可应用于微服务吞吐、数据库查询、ML 张量管线或嵌入式系统等场景。
云端生成与本地评估的分离架构
AlphaEvolve 运行闭环进化流程：给定种子程序和自定义评分函数后，由 Gemini 模型组合提出代码变体，对每个候选方案执行评分，保留性能最优者并在多代迭代中逼近最佳解。
其核心架构分为两部分：
- 生成端：由 Google Cloud 托管，包含提示采样器、Gemini 模型组合和程序数据库，负责规模化、提示编排与生成机制。
- 评估端：由客户自行管理计算资源。由于代码质量评分具有严格的领域特异性，评估模块完全由用户掌控，可在自有硬件或目标架构上运行。本例中即在 macOS 上编译并计时原生 Swift 代码。
尽管云端生成侧以 Python 为主，评估端可使用任意语言编写。自定义评估器会使用 swift 编译每个候选代码，并针对标准参考网络摄像头片段执行测试。
评分函数设计与防作弊质量门控
自动化优化循环本身无法“看到”视频流，只能接收评估器返回的数值适应度分数。如果评估指标存在盲区，进化式代码生成会积极利用它。在早期运行中，一个偏向原始延迟的简单评分函数产生了惊人的加速效果——模型直接跳过了模糊渲染，在 0 毫秒内返回未修改的帧。
为防止模型钻空子，文章建议构建双层评分函数，将吞吐量与结构相似性指标（SSIM）等保真度指标结合。具体做法包括：
- 针对最坏情况片段进行测试，避免在静态帧或空白画面上做基准测试，因为候选代码容易在静态背景下通过平均 SSIM 门控，却在快速转头时完全失败。
- 同时追踪最低值而非仅看均值，强制执行平均阈值和逐帧下限，以捕捉丢帧或掩码更新延迟。
自主算法发现与工程权衡
多数开发者将生成式 AI 用于局部微优化，例如内联辅助函数、展开循环或调整内存池。但当给予足够的架构空间时，进化循环能够自主发现系统级优化。
文章给出了几项工程经验：
- 提供框架上下文而非孤立循环。应在提示或检索工具中包含公共 SDK 头文件、接口定义或 API 参考符号，否则大语言模型无法采用感知序列的子系统。
- 暴露多帧生命周期钩子，允许候选代码在多次执行间维护有界状态（如历史掩码或缓存时间戳），而非强制使用纯无状态函数。
- 让质量门控来约束权衡。当 AlphaEvolve 引入时序掩码缓存时，最初缓存过于激进，导致明显的拖影伪影。由于 SSIM 门控会对运动过程中的漂移施加惩罚，搜索过程最终收敛到了一个可用于生产的缓存窗口，无需人工调参。
设定符合物理极限的性能边界
性能工程中的一个常见陷阱是在缺乏参照的情况下盲目优化。在实时媒体处理中，总帧时间可分为两类：可变软件开销（内存分配、缓冲区格式转换、线程上下文切换、API 调度摩擦）和不可变硬件下限（Neural Engine 原始推理延迟、GPU 着色器计算时间、硬件显示同步）。
为充分利用 AlphaEvolve，开发者应在运行优化循环前测量理论最大余量：
- 构建“空操作”管线，剥离 Swift/C++ 编排、数据编组和帧转换，仅在虚拟缓冲区上调度预热的 ML 模型和裸 GPU 通道，所得时间即为物理硬件下限。
- 计算可寻址上限，即总优化潜力等于当前耗时减去硬件下限。
- 基于硬件差距进行评分，用优化效率替代任意的加速倍数来衡量成果。
相关基准代码、测试片段、评估脚本和原始候选日志已在 GitHub 开源。