niutrans / niutensor Goto Github PK

你好！有两个问题请教下：
1.你们提到的深度优化版本什么时候出来？
2.transformer模型训练或预测应该存在问题，什么时候改一个正确的版本我们测试一下？

Permute.cpp is empty.

When I installed the GPU version, I encountered an undefined error. The error is as follows. How to fix it? Thank you very much.

./source/tensor/core/movement/CopyValues.cuo：在函数‘nts::_CudaCopyValues(nts::XTensor const*, nts::XTensor*, nts::XStream*)’中： tmpxft_00009cd9_00000000-5_CopyValues.compute_70.cudafe1.cpp:(.text+0x301)：对‘nts::XMemCopyAsync(void*, int, void const*, int, unsigned long, CUstream_st*, int)’未定义的引用 tmpxft_00009cd9_00000000-5_CopyValues.compute_70.cudafe1.cpp:(.text+0x541)：对‘nts::XMemCopyAsync(void*, int, void const*, int, unsigned long, CUstream_st*, int)’未定义的引用

训练问题：
时间长了，GPU消耗内存会变大，从而中断训练，尤其是valid数据较大时

翻译部分问题：
用自带de-en数据测试，还ok
用中英语料测试，发现问题：

1. beamsize=1时，有些句子翻译完整，有些只翻译前面部分
2. beamsize>1时，只翻译少量句子，多数句子输出空白

Test

在win10上用vs2015配置好环境，build时会出现如下output:

1> Sum.obj : error LNK2019: 无法解析的外部符号 cblas_saxpy，该符号在函数 "void __cdecl nts::_Sum(struct nts::XTensor const *,struct nts::XTensor const *,struct nts::XTensor *,float)" (?_Sum@nts@@YAXPEBUXTensor@1@0PEAU21@M@Z) 中被引用
1> XTensorBLAS.obj : error LNK2019: 无法解析的外部符号 cblas_sgemm，该符号在函数 "void __cdecl nts::_MatrixMULCPU(struct nts::XTensor const *,enum nts::MATRIX_TRANS_TYPE,struct nts::XTensor const *,enum nts::MATRIX_TRANS_TYPE,struct nts::XTensor *,float,float)" (?_MatrixMULCPU@nts@@YAXPEBUXTensor@1@W4MATRIX_TRANS_TYPE@1@01PEAU21@MM@Z) 中被引用
1>C:\Users\ZXF\Documents\Visual Studio 2015\Projects\Niutest\x64\Debug\Niutest.exe : fatal error LNK1120: 2 个无法解析的外部命令
========== 生成: 成功 0 个，失败 1 个，最新 0 个，跳过 0 个 ==========

如果在 C/C++->预处理器->预处理器定义 中去掉USE_BLAS则可以成功build，请问这种情况是缺少了什么库么？

您好，

在NiuTensor的Roadmap中看有支持CPU FP16的计划，请问有预计的支持/开放时间么（当前OpenBLAS好像已经支持了BFLOAT16）？看最近Tencent的NCNN和Alibaba的MNN推理框架都已经支持了FP16。

命令参数怎么设置？
训练数据格式是什么？
谢谢!