chatglm3 使用agent报错 unhashable type: 'slice' about inference

[codingl2k1]

Could you try the latest master? This error is weird, It raises when the chunk_text is a dict and the last_chunk_text_length is a slice. But, from the latest source code, the last_chunk_text_length can't be a slice.

>>> d = {}
>>> d[slice(1,2):]
Traceback (most recent call last):
    coro = func()
           ^^^^^^
  File "<input>", line 1, in <module>
TypeError: unhashable type: 'slice'

[zmh2000829]

This error is weird,

已使用Xinference-0.12.3，报错相同，增加如下打印，请帮忙查看问题原因

[moyangjiayou]

遇到同样的问题了~ 求解决

[codingl2k1]

这是用的 stream tool call？

[moyangjiayou]

您好！我是莫洋，我已经收到您的来信了！

[codingl2k1]

他这个 stream tool call 会有问题，如果输出的 stream 比较慢，可能返回出现不完整的tool call dict。