DEV Community · Show DEV8/13 23:1255 分
CI套件可能为已发送的提示词重复付费
Your CI suite is probably re-paying OpenAI for prompts it already sent
开发者Iwasinnam2发布开源项目withOhm,解决AI应用中重复提示词导致重复计费的问题。该工具通过精确匹配缓存(非语义缓存)对请求进行规范化处理并哈希,相同请求直接从Redis缓存返回,避免向OpenAI等模型重复支付费用。支持OpenAI兼容接口,用户自带API密钥,提供ohm_chat、ohm_fetch_web等工具及使用量统计功能。项目已发布至PyPI,可通过pip安装,并在GitHub上开源。