InsightFace Server 的精确搜索 profilefp32_v1、int8_x736_v1 等怎么选【免费下载链接】insightfaceState-of-the-art 2D and 3D Face Analysis Project项目地址: https://gitcode.com/GitHub_Trending/in/insightface在 InsightFace Server 里创建 Collection 时search.profile必须指定精确搜索的向量存储与计算方式fp32_v1、fp16_v1、bf16_v1、int8_x736_v1或int8_x1000_v1。这个选择在创建时就固定下来之后不能通过PATCH /v1/collections/{collection_id}修改search_profile在该端点不可变改动它需要重建索引所以选错了基本等于要重建这个库。本文基于 server/README.md、server/docs/user-guide.md 和 server/docs/api.md给出五个 profile 的可用范围、选型依据以及创建、验证的完整操作路径。五个 profile 与硬件可用范围Profile存储表示CPUCUDA定位fp32_v1FP32支持支持Collection 默认 profilefp16_v1FP16不支持支持低精度近似bf16_v1BF16支持的 CPU仅 SM80 设备低精度近似int8_x736_v1INT8scale 736支持支持官方推荐的 INT8int8_x1000_v1INT8scale 1000支持支持兼容契约compatibility profile几个直接影响选型的边界FP16 是 CUDA 专属CPU 部署不能选fp16_v1CUDA BF16 额外要求 SM80 或更新架构的设备。后端不支持的 profile 在创建/加载 Collection 时会被显式拒绝不会静默转换为其他 profile 或其他执行 provider。所有 profile 都是 flat 精确搜索对每个存活的 FaceSample 全量打分不做 ANN 候选筛选。“精确”描述的是候选覆盖低精度 profile 的分数是对 FP32 的近似。INT8 的打分内部用 INT32 累加int8_x736_v1与int8_x1000_v1的区别是编码 scale S 为 736 或 1000编码在 profile 名里。对外返回的相似度与阈值始终是原始 cosine0.0..1.0默认0.4。先确认当前环境支持哪些 profileSystem 响应只公布当前 CPU/GPU 上实际可用的 profile这是选型的第一步curl -fsS http://127.0.0.1:18097/v1/healthCPU 镜像用18097端口CUDA 12 镜像用18098开启认证时按 API 文档带上认证头。也可以打开 Web UI 的System页面查看。以这里公布的能力为准而不是直接抄上表的“典型可用范围”——上表是文档给出的典型值实际以本机能力掩码为准。怎么选容量、速度与精度三个依据精度代价。项目用 ICCV21-MFR 的多种族MR测试集在 FAR1e-6的 MR-ALL 全对 1:1 协议下评测了各 profile。所有 profile 使用同一批通过 Server API 提取的 L2 归一化 512 维buffalo_l特征只改变存储向量与搜索计算表示Search profileMR-ALL at FAR 1e-6Cosine threshold相对 FP32 差异FP3291.249107%0.407787—FP1691.249197%0.4077870.000090 ppBF1691.248502%0.407787-0.000605 ppINT891.248005%0.407739-0.001102 pp按挑战常用的两位小数报告精度FP32 和 INT8 都是91.25% MR-ALL未取整差异仅 0.0011 个百分点。也就是说 INT8 在这个基准上没有实质精度损失。注意这个对比测的是向量存储/搜索精度不是 INT8 模型推理。容量与速度。在单张 NVIDIA GeForce RTX 509032,607 MiB上原生 CUDA 精确 flat 索引的实测上限GPU 独占测量Driver 580.105.08CUDA 12.9GPU data type最大向量数10M Top-5 p5010M 串行 QPSFP3215.8M12.84 ms77.85FP1630.7M6.83 ms146.32BF1630.7M6.83 ms146.33INT858.9M3.84 ms260.81INT8 相对 FP32 是 3.73 倍容量、3.35 倍 10M Top-5 吞吐。速度测试口径是恰好 10M 图像向量、GPU 常驻全量 Top-5、单查询在飞、10 次预热、100 次测量。内存预算。512 维向量每行纯向量字节数FP32 2,048 字节FP16/BF16 1,024 字节INT8 512 字节ID、工作区、分配器开销另算。capacity_rows默认100000部署护栏上限默认10000000它既是初始预留也是该 Collection 的存活行上限文档明确要求“按真实内存预算设置 capacity”。据此文档支撑的选择路径是GPU 上追求最大容量和最低延迟选int8_x736_v1官方标注 recommended INT8。需要 FP16 的存储/计算表示且跑 CUDAfp16_v1容量和吞吐与 BF16 同级但不支持 CPU。CPU 部署或需要最高精度基线fp32_v1也是整体默认支持的 CPU 上还有bf16_v1。int8_x1000_v1文档只标注为 compatibility contract没有给出独立的性能或精度数据除非有既有兼容需求新库没有理由选它替代int8_x736_v1。创建 Collection 时指定 profileWeb UI 路径打开Collections→New collection在 “a search profile supported by the current host” 一项里选择 profile同时设置阈值默认0.4、capacity 与max_faces_per_person默认 20。API 路径POST /v1/collectionscurl -sS ${BASE_URL}/v1/collections -H ${AUTH_HEADER} \ -H Content-Type: application/json \ -d { id: employees, name: Employees, threshold: 0.4, search: { profile: int8_x736_v1, capacity_rows: 100000, max_faces_per_person: 20, load_policy: lazy } }BASE_URL是服务地址CPU 为http://127.0.0.1:18097CUDA 为http://127.0.0.1:18098AUTH_HEADER在开启认证时按 server/docs/api.md 的要求填写未开启认证时可省略。profile只能是五个合法值之一capacity 超过部署上限会得到400 search_capacity_too_largeprofile 不被当前后端支持会得到400 unsupported_search_profile库已存在是409 collection_exists索引不可用是503 search_index_unavailable。load_policy缺省为 lazy_default这个特殊 Collection 在未提供 load policy 时用 eager。Python SDK 等价调用from insightface_server import Client client Client(http://localhost:18097, api_keyyour-key) client.create_collection( collection_idemployees, nameEmployees, threshold0.4, search_profileint8_x736_v1, )验证选择是否生效创建成功返回 HTTP 201响应里的collection包含解析后的search_profile、capacity_rows、max_faces_per_person和load_policy——这四个字段是持久化值与请求一致即说明 profile 已固定。GET /v1/collections/{collection_id}同样返回完整collection可随时核对search_profile没被意外改动。走一遍搜索验证功能注册至少一张清晰人脸照片的 Person用该 Person 的另一张照片在Search或 SDK 的client.search(collection, query, limit5)中检索按相似度排序、Person 得分取其所有 FaceSamples 的最高分查无结果是空列表属于成功而不是故障。限制与注意事项换 profile 只能新建 Collectionsearch_profile通过 PATCH 端点不可改文档说明改动它需要 index rebuild。上表的容量/QPS 数据是同一张 RTX 5090 的 GPU 独占测量未加载 ONNX 模型和 Server 负载README 明确提示生产部署还要为模型、请求、并发、索引重建和分配器余量预留显存。INT8 是“无实质精度损失”的结论仅指上述 MR-ALL 基准量化仍会使分数相对 FP32 变化低精度 profile 也可能产生与 FP32 不同的排序。持久化的 profile 与后端不匹配时例如把fp16_v1的库搬到 CPU 后端会显式失败不会被静默转换。INT8 能力相关的迁移文件可作进一步参考0002_native_search.sql、0003_int8_x736.sql。【免费下载链接】insightfaceState-of-the-art 2D and 3D Face Analysis Project项目地址: https://gitcode.com/GitHub_Trending/in/insightface创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考