Python

如何部署 Tensorflow serving

在利用 kashgari 训练 BERT+BiLSTM+CRF 模型后,如何将模型预测结果进行部署是一个很重要的问题。按照 kashgari的官方文档 介绍,考虑采用 Tensorflow serving 来做模型预测的部署。 TensorFlow Serving 是一个用于机器学习模型 serving 的高性能开源库。它可以将训练好的机器学习模型部署到线上,使用 gRPC 作为接口接受外部调用。更加让人眼前一亮的是,它支持模型热更新与自动模型版本管理。这意味着一旦部署 TensorFlow Serving 后,就再也不需要为线上服务操心,只需要关心线下的模型训练。 TensorFlow Serving 可以方便我们部署 TensorFlow 模型,可以使用 TensorFlow Serving 的 Docker 镜像来使用 TensorFlow Serving ,安装命令如下: docker pull tensorflow/serving 接下来将演示如何利用 tensorflow serving 来部署 kashgari 中的模型,项目结构如下: 上图中的 data 是标注的 NER 数据集,即标注出文本中的时间,采用 BIO 标注规则。chinese_wwm_ext 文件夹为哈工大的预训练模型文件。model_train.py 为模型训练的代码,主要功能是完成时间序列标注模型的训练,完整的代码如下: # -*- coding: utf-8 -*- # time: 2019-09-12 # place: Huangcun Beijing import kashgari from kashgari import utils from kashgari.

How to change directory in Anaconda

在 Anaoconda Prompt 中,一直不知道怎么将目录切换到D盘特定目录下,今天为了安装 burst_detection包,在网上查找了下资料,终于将此问题解决,步骤如下: win10系统默认的Anaconda terminal环境下,目录在C盘,要将其切换到D盘,首先使用 cd ..返回到C盘的根目录,然后输入 d: 就可以切换到D盘了,之后再用 cd 命令切换到指定目录路径下。 另外,使用 pip intall burst_detection 会报错,解决办法如下: 首先,访问 https://github.com/nmarinsek/burst_detection 在右侧的 clone or download 按钮下选择 Download ZIP,将包文件下载到本地硬盘任一目录下。 其次,解压开该文件包,会发现在文件目录下有一个 setup.py 文件,用编辑器打开此文件,将第11行的代码改为 long_description = ‘Error’ ,保存退出。 最后,在 Anaoconda Prompt 中,切换目录路径到 setup.py 所在文件目录,运行 python setup.py install 命令,即可顺利安装。安装完毕后,在Anaoconda Prompt 中输入命令 pip show burst_detection 查看版本信息确认安装成功。