Wudi's Blog

修改 TensorFlow C API 的代码，使得固定的 saved_model.pb 文件名变为可设置的

五帝 — Thu, 20 Apr 2023 14:32:10 +0000

我在 2021 年 5 月份发出了一个 SpleeterMsvcExe 开源项目，当时是支持 11kHz 和 16kHz 两种模型，年底的时候又添加了对 22kHz 模型的支持。这三种不同频率上限的模型, variables 目录中的文件是完全相同的，只有 saved_model.pb 不同。但 TensorFlow 源码中这个文件名在 constants.h 中被定义为了固定值：

// SavedModel proto filename.
constexpr char kSavedModelFilenamePb[] = "saved_model.pb";
 
// SavedModel text format proto filename.
constexpr char kSavedModelFilenamePbTxt[] = "saved_model.pbtxt";

用于加载模型的 ReadMetaGraphDefFromSavedModel() API 函数会调用 reader.cc 中的 ReadSavedModel() 函数：

Status ReadSavedModel(const string& export_dir, SavedModel* saved_model_proto) {
  LOG(INFO) << "Reading SavedModel from: " << export_dir;
 
  const string saved_model_pb_path =
      io::JoinPath(export_dir, kSavedModelFilenamePb);
  if (Env::Default()->FileExists(saved_model_pb_path).ok()) {
    return ReadBinaryProto(Env::Default(), saved_model_pb_path,
                           saved_model_proto);
  }
  const string saved_model_pbtxt_path =
      io::JoinPath(export_dir, kSavedModelFilenamePbTxt);
  if (Env::Default()->FileExists(saved_model_pbtxt_path).ok()) {
    return ReadTextProto(Env::Default(), saved_model_pbtxt_path,
                         saved_model_proto);
  }
  return Status(error::Code::NOT_FOUND,
                "Could not find SavedModel .pb or .pbtxt at supplied export "
                "directory path: " +
                    export_dir);
}

可以看到完全没有考虑让这个文件名可以被指定，而且一直到现在最新的 v2.12.0 版本都是这样的。

我之前曾经考虑过从模型下手，试图把三种种不同频率上限的模型合并为一个。搜索过几次 tensorflow saved model merge 之类的关键词，也借助 ChatGPT 修改过 checkpoint 到 saved model 的转换脚本，最终都没成功。而且从把 saved_model.pb 转换为 .pbtext 格式的结果看，整个 protobuf 文件中和频率上限相关的参数非常多，而且看文件里这些参数所在位置，也没法合并。

之前一直想尽量用官方提供的二进制版本，是考虑到这对于杀毒软件比较友好，自己编译的会有全新的 hash 值，有误报的风险。但现在考虑到 SpleeterMsvcExe, 即将发出的 WPF 版 Spleeter GUI 以及 BeatShow Player 程序的易用性，还是打算对 TensorFlow 的源码进行修改，自行编译一个版本来用了。

只是这一点需求，代码还是很好改的。直接在 ReadSavedModel() 中添加一段识别和处理环境变量的代码就可以了：

Status ReadSavedModel(const string& export_dir, SavedModel* saved_model_proto) {
  LOG(INFO) << "Reading SavedModel from: " << export_dir;
 
  const char* tf_alt_saved_model_pb = getenv("TF_ALT_SAVED_MODEL_PB");
  if (tf_alt_saved_model_pb != nullptr) {
    LOG(INFO) << "Environment variable TF_ALT_SAVED_MODEL_PB is set: " << tf_alt_saved_model_pb;
    const string alt_saved_model_pb_path =
        io::JoinPath(export_dir, tf_alt_saved_model_pb);
    if (Env::Default()->FileExists(alt_saved_model_pb_path).ok()) {
      LOG(INFO) << "Will use " << tf_alt_saved_model_pb << " instead of saved_model.pb";
      return ReadBinaryProto(Env::Default(), alt_saved_model_pb_path,
                             saved_model_proto);
    } else {
      return Status(error::Code::NOT_FOUND,
                    "Could not find the specified .pb file: " + alt_saved_model_pb_path);
    }
  }
 
  const string saved_model_pb_path =
      io::JoinPath(export_dir, kSavedModelFilenamePb);

不用改 API 接口的定义，兼容性和灵活性都比较好。程序中调用 TensorFlow C API 前，设置一下 TF_ALT_SAVED_MODEL_PB 环境变量的值就可以了。

对于 TensorFlow 的编译过程，可以参考上一篇文章：
《TensorFlow C API 动态库 v1.15 版本的编译过程》

2023-04-22 添加:

修改过的项目已经发到了 GitHub 上了: https://github.com/wudicgi/tensorflow-mod

实际的修改和之前贴的有差异，具体修改可以看 c5cfda2 这个提交。也可以直接下载 release 版本使用: https://github.com/wudicgi/tensorflow-mod/releases/tag/v1.15.5-mod.1

0b00	生成一个新的随机数，将其和命令数据 NumIn 合并后，结果存储在 TempKey 中。在产生随机数前如果有必要则自动更新随机数发生器的 seed 值（推荐的方式，安全度高）。 RandOut = 新生成的随机数 (32 bytes) TempKey = SHA256(RandOut \|\| NumIn (20 bytes) \|\| ...)
0b01	同 0b00, 除了生成随机数前不更新随机数发生器的 seed 值，直接使用原有的 seed 值。 RandOut = 新生成的随机数 (32 bytes) TempKey = SHA256(RandOut \|\| NumIn (20 bytes) \|\| ...)
0b11	透传模式，直接将命令数据 NumIn 写入到 TempKey 中。 RandOut = '00' TempKey = NumIn

分辨率	帧率	自动低光	电子防抖	畸变修正
4K (3840x2160)	30fps	不支持	不支持	不支持
4K Ultra (3840x2160)	24fps	不支持	不支持	不支持
2.7K (2704x1520)	30fps	不支持	支持	支持
2.7K (2704x1520)	60fps	支持	支持	支持
2.7K Ultra (2704x1520)	30fps	不支持	支持	不支持
2.7K 4:3 (2704x2032)	30fps	不支持	支持	支持
1440 (1920x1440)	30fps	不支持	支持	支持
1440 (1920x1440)	60fps	支持	支持	支持
1080 (1920x1080)	30fps	不支持	支持	支持
	60fps	支持	支持
	120fps	支持	不支持
1080 Ultra (1920x1080)	30fps	不支持	不支持	不支持
	60fps	支持	不支持
	90fps	支持	不支持
960 (1280x960)	60fps	支持	支持	支持
960 (1280x960)	120fps	支持	不支持	支持
720 (1280x720)	240fps	不支持	不支持	支持
720 Ultra (1280x720)	60fps	支持	不支持	不支持
720 Ultra (1280x720)	120fps	支持	不支持	不支持
480 (848x480)	240fps	不支持	不支持	支持

Wudi's Blog

修改 TensorFlow C API 的代码，使得固定的 saved_model.pb 文件名变为可设置的

TensorFlow C API 动态库 v1.15 版本的编译过程

入手 RTX 4070 显卡

自己写了个 Windows 10 上用的快速启动栏，解决系统自带功能的对齐和缩放问题

搞了一台 DIY 级别的雕刻机 CNC 3018

入手 Sermoon V1 3D 打印机，试打了第一个自己画的零件

写了一个纯 C 语言版本的 Spleeter 人声、伴奏分离命令行程序

When We Disco 的 BeatShow 演示

CH552 官方 USB HID 示例程序中的一处 bug

简单“修正”了一下 AStyle 中的一个重复缩进的问题

开源一个剪贴板文本自动处理工具 Clipboard Auto Processor

已经成功将 Spleeter 引入到了 BeatShow 的音频处理过程中

发现了一个开源的人声和乐器音轨分离软件 Spleeter

FFmpeg 的 Windows build 现在有了 LGPL 版本

为开源的 C# USB 库 Device.Net 添加了根据名称过滤设备的功能

BeatShow 的一种新的硬件形式

ATSHA204A 简明使用手册 (1/2: 配置项和常用命令)

尝试了一下根据鬼畜小课堂的扒谱教程进行扒谱

你所没见过的银河 SOHO...

配置出一个更好用的 Windows 10

修改 Windows 10 的中文输入法配置，使其像 Win7, XP 一样易于使用

Italo Disco 新作推荐: Franck Choppin - Pain in My Heart

音乐可视化软件 + 预处理外挂

为 Dancing Together 制作歌词并传到了网易云音乐

BeatShow @ Maker Faire Beijing 2018

PALMEXPO 2018 第27届中国国际专业音响·灯光展

BeatShow 演示视频设备篇

BeatShow 介绍视频和演示视频番外篇

2018 北京科博会一瞥

BeatShow 开发阶段预览 (3 - 5)

2017 南宫艺术灯光夜/灯光节

BeatShow 开发阶段预览 (2)

北京创客盛会 Maker Faire Beijing 2017

PowerDirector 15 中不正常的鼠标滚轮行为

BeatShow 开发阶段预览视频

Hit'n'Mix

注册了域名 beatshow.net

原来老外也觉得 WinRAR 卖得太贵了

找到了 TESTV 的祖传 BGM

小蚁 4k 运动相机

.NET 下的 JavaScript 引擎 - ClearScript

永久禁用 Windows 8.1 的驱动签名强制检查

物理禁用中兴小兴看看 mini 网络摄像头的麦克风和喇叭

FileSystemFinder: 一个可以使用通配符和正则表达式逐层获取文件和目录列表的 PHP 类库

配置出一个更好用的 Windows 8.1

今天才知道 SysWOW64 是什么意思

PHP 语法高亮增强版的 Notepad++

将 Windows 7 配置成 Windows 8.1 的样子

写了一个新的 PHP 类库: HtmlMinerDocument

入手 Kindle DXG