[Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 about paddlenlp

[songjunming13]

请问现在有结果吗？

[songjunming13]

在使用FAQ模型的时候，做好异常处理以后，向模型提问一个问题返回一个正确结果，再次提问问题出现一次异常，然后再返回正确结果，再出现异常 请问这个怎么了？应该怎么处理呢?

[michaelowenliu]

@songjunming13 你好，收到你的问题和邮件。能否把这个issue里遇到的问题完善下，包括issue的title，这样方便相关研发同学快速定位和解决，谢谢。

[songjunming13]

__

[songjunming13]

红线上面内容对应返回结果正确的那张图片，红线下方对应反馈结果错误的那张照片

[songjunming13]

已经收到您的邮件，并按照您所给出的指示做出了相应的操作。新的地址为:[Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 · Issue #8175 · PaddlePaddle/PaddleNLP (github.com) 望能够帮助到您~

…

------------------ 原始邮件 ------------------ 发件人: ***@***.***>; 发送时间: 2024年3月29日(星期五) 上午9:21 收件人: ***@***.***>; 抄送: "Sadness and ***@***.***>; ***@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: (Issue #8175) @songjunming13 你好，收到你的问题和邮件。能否把这个issue里遇到的问题完善下，包括issue的title，这样方便相关研发同学快速定位和解决，谢谢。 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[ZHUI]

嗯嗯，你好，请问您使用的代码是哪一个目录的？方便发一下链接吗？

[songjunming13]

这个demo13.py是我们的源码。

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年3月29日(星期五) 中午11:11 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 嗯嗯，你好，请问您使用的代码是哪一个目录的？方便发一下链接吗？ — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

您好，谢谢您的关注，已经向您发送了邮箱，阐述了问题了，以及您所需要的文件，如有不足之处望您在详细说明 谢谢

[ZHUI]

请问您的邮件发到哪个地址了？

[songjunming13]

非常抱歉，不知道什么原因导致您没有收到邮件，现在我再给您发送一个新的邮件。 demo13.py为我们的源码

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年3月29日(星期五) 下午3:26 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 请问您的邮件发到哪个地址了？ — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

这个邮件发送再这个邮箱了？里面有一个问题文档说明，还有源码文件，以及一个遇到问题的演示视频，希望能够减少您的麻烦

[ZHUI]

嗯嗯，收到了👌

[w5688414]

@您好， 已提交修复的PR：#8214 ， 然后按照这样设置一下：

retriever11 = DensePassageRetriever(
    document_store=document_store11,
    query_embedding_model="rocketqa-zh-dureader-query-encoder",
    passage_embedding_model="rocketqa-zh-dureader-query-encoder",
    max_seq_len_query=64,
    max_seq_len_passage=256,
    batch_size=16,
    use_gpu=False,
    embed_title=False,
    _static_mode=False
)

类似错误issue：PaddlePaddle/Paddle#33831

[w5688414]

我测试了几次，没什么问题了。

[songjunming13]

非常感谢，您愿意帮我们解决问题！！！超级激动！！！但是，按照您的要求改变了以后，我这边是出现了这个情况。

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年3月29日(星期五) 下午5:38 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) @您好， 按照这样设置一下： retriever11 = DensePassageRetriever( document_store=document_store11, query_embedding_model="rocketqa-zh-dureader-query-encoder", passage_embedding_model="rocketqa-zh-dureader-query-encoder", max_seq_len_query=64, max_seq_len_passage=256, batch_size=16, use_gpu=False, embed_title=False, _static_mode=False ) 类似错误issue：PaddlePaddle/Paddle#33831 已提交修复的PR：#8214 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[w5688414]

把我最新合入的pr拉一下，重新安装一下pipelines

[songjunming13]

您说的最新合入的pr拉一下有点没太理解。我应该做的是:  1、将您给我的代码把源文件的进行替换 2、将pipelines给卸载了，重新装。这个理解正确吗？

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年3月29日(星期五) 晚上6:08 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 把我最新合入的pr拉一下，重新安装一下pipelines — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[w5688414]

对的，源码安装最新版本

[songjunming13]

您好，很抱歉再次打扰您，按照您的指定操作以后，环境好像出现了问题，然后就在配置环境，但是到最后出现了这个情况[   document_store11 = FAISSDocumentStore.load('faiss_index15') AttributeError: type object 'MissingDependency' has no attribute 'load' ] 为了让您看的更加清楚，发送了一张照片，来说明这个错误。 ------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年3月29日(星期五) 晚上6:46 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 对的，源码安装最新版本 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

[w5688414]

贴一下你的环境，可以使用如下的命令把你的python包输出到requirements.txt里面

pip freeze > requirements.txt

[songjunming13]

您好，附件里面放的文件是您所需要的环境。如果有问题，可随时对我进行询问，最后对您表示万分感谢！！！

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年4月1日(星期一) 中午1:08 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 贴一下你的环境，可以使用如下的命令把你的python包输出到requirements.txt里面 pip freeze > requirements.txt — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

您好，在我当初搭建环境成功的时候录制了一个视频，今天看着那个视频，按照相同的步骤搭建，仍然出现了[document_store = FAISSDocumentStore.load(args.index_name) AttributeError: type object 'MissingDependency' has no attribute 'load' ]这个问题，然后又生成了一个requirements.text文件  冒昧的发给您，希望可以帮到您尽快解决问题

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年4月1日(星期一) 中午1:08 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 贴一下你的环境，可以使用如下的命令把你的python包输出到requirements.txt里面 pip freeze > requirements.txt — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

requirements.txt
这个是新搭建环境的.txt文件

[w5688414]

我没有找到您的faiss,这是我的faiss版本，仅供参考：

faiss-cpu                      1.7.4

[songjunming13]

感谢您提供的建议，这么简单的问题还麻烦您了，对不起 （有点内疚）但是模型还是有上次的问题（更新和没更新piplines我都尝试了），给您发送了一个附加word的文档详细的说明了我的操作，帮助您更快的定位到我的错误。  万分感谢~~~！ 

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年4月1日(星期一) 晚上8:26 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 我没有找到您的faiss,这是我的faiss版本，仅供参考： faiss-cpu 1.7.4 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

这个是操作详细步骤的文档
wenti.docx

[w5688414]

源码安装：

cd PaddleNLP/pipelines
pip install -e .

[songjunming13]

按照这样更新环境的话，又出现了一个错误。

[songjunming13]

上述的错误安装是可以解决的，就是模型是可以跑通。现在的问题主要是 再对模型进行问答的时候，是一次成功一次失败。[如果可以的话，要不您登陆我的华为云服务器上面查看一下，看看是哪里的问题？]

…

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***>; 发送时间: 2024年4月1日(星期一) 晚上10:47 ***@***.***>; 抄送: "Sadness and ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 源码安装： cd PaddleNLP/pipelines pip install -e . — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***>

[songjunming13]

模型现在已经跑通了，但是就是完成了这一步以后，以后还是没有解决

。

把我最新合入的pr拉一下，重新安装一下pipelines

[w5688414]

_static_mode=False 把静态图关掉

[songjunming13]

_static_mode=False 把静态图关掉，这个已经考虑到了，但是还是一次成功一次失败&nbsp; &gt;.<

…

------------------&nbsp;原始邮件&nbsp;------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***&gt;; 发送时间:&nbsp;2024年4月2日(星期二) 晚上7:14 ***@***.***&gt;; 抄送:&nbsp;"Sadness and ***@***.******@***.***&gt;; 主题:&nbsp;Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) _static_mode=False 把静态图关掉 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***&gt;

[w5688414]

你确定你装上去了？下载最新的pipelines源代码，把原来的pipelines卸载掉，重新安装

[songjunming13]

就是如果我使用咱们的指令再装包的时候，运行模型会出现缺失某些模块，导致模型运行失败，然后我需要将部分包给卸载，再重新装，这样的话,可以正常运行模型，但是会导致模型问答一次成功一次失败的冲突。

…

------------------&nbsp;原始邮件&nbsp;------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***&gt;; 发送时间:&nbsp;2024年4月3日(星期三) 中午11:37 ***@***.***&gt;; 抄送:&nbsp;"Sadness and ***@***.******@***.***&gt;; 主题:&nbsp;Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 你确定你装上去了？下载最新的pipelines源代码，把原来的pipelines卸载掉，重新安装 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***&gt;

[w5688414]

可以留个微信联系方式，我帮您看一下环境

[songjunming13]

微信号:Sjm15617911752&nbsp; &nbsp;这是我第一次感受儿到陌生人来的善意，特别特别感谢您！

…

------------------&nbsp;原始邮件&nbsp;------------------ 发件人: "PaddlePaddle/PaddleNLP" ***@***.***&gt;; 发送时间:&nbsp;2024年4月3日(星期三) 下午5:58 ***@***.***&gt;; 抄送:&nbsp;"Sadness and ***@***.******@***.***&gt;; 主题:&nbsp;Re: [PaddlePaddle/PaddleNLP] [Question]: FAQ模型部署成功以后，经过异常捕获处理后，在多轮次问答过程中，出现一次成功一次失败的现象。 (Issue #8175) 可以留个微信联系方式，我帮您看一下环境 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: ***@***.***&gt;

[w5688414]

已私下远程解决