GithubHelp home page GithubHelp logo

Comments (9)

josh9019 avatar josh9019 commented on June 15, 2024

我试了降低每次请求最大段落数和每秒最大请求数,还是会出现此问题。
是没有按照提示词要求返回的原因吗?,不懂...

from immersive-translate.

josh9019 avatar josh9019 commented on June 15, 2024

5

from immersive-translate.

shadowwider avatar shadowwider commented on June 15, 2024

请问一下你是怎么配置openai的自定义让他支持ollama本地的呢?我配置一直不成功,不像你是有的成功有的不成功。看了主要问题是api/chat这个接口默认是steam模式返回,这个扩展没有办法新增steam:false的参数进去。而/api/generate接口的参数调用又不一样。

from immersive-translate.

josh9019 avatar josh9019 commented on June 15, 2024

请问一下你是怎么配置openai的自定义让他支持ollama本地的呢?我配置一直不成功,不像你是有的成功有的不成功。看了主要问题是api/chat这个接口默认是steam模式返回,这个扩展没有办法新增steam:false的参数进去。而/api/generate接口的参数调用又不一样。

https://immersivetranslate.com/docs/services/ai/ 官网的教程里-其他AI模型接入里有说明。
就是以下内容。
其他 AI 模型临时接入
Ollama
官网下载安装 ollama
OLLAMA_ORIGINS="*" ollama serve (允许跨域访问并启动ollama)
进入插件的设置页,翻译服务选择 openAI
api_key: ollama
自定义模型: llama2 、other models
自定义 URL 地址: http://localhost:11434/v1/chat/completions

注意一定要设置环境变量才可以配置成功。
不知道能不能看懂这个说明,如果不行我可以截图给你。

from immersive-translate.

josh9019 avatar josh9019 commented on June 15, 2024

请问一下你是怎么配置openai的自定义让他支持ollama本地的呢?我配置一直不成功,不像你是有的成功有的不成功。看了主要问题是api/chat这个接口默认是steam模式返回,这个扩展没有办法新增steam:false的参数进去。而/api/generate接口的参数调用又不一样。
我这个问题好像就是你说的这个API接口问题,之前报错提示过api什么的。之前1.3版本的时候还好好的,更新之后BUG有点多。 steam/false参数api/generate接口这些一点都不懂。。。自己又不会解决。。。

from immersive-translate.

josh9019 avatar josh9019 commented on June 15, 2024

请问一下你是怎么配置openai的自定义让他支持ollama本地的呢?我配置一直不成功,不像你是有的成功有的不成功。看了主要问题是api/chat这个接口默认是steam模式返回,这个扩展没有办法新增steam:false的参数进去。而/api/generate接口的参数调用又不一样。

QQ截图20240510101536
环境变量加这个就可以了。

from immersive-translate.

keyboard3 avatar keyboard3 commented on June 15, 2024

1.5.2 可以配置字幕最大段落数量,可以配置成1看看

from immersive-translate.

josh9019 avatar josh9019 commented on June 15, 2024

1.5.2 可以配置字幕最大段落数量,可以配置成1看看
解决了!!!非常感谢大佬!
我一直尝试每次请求最大段落数......还真没试字幕最大段落数量...

from immersive-translate.

shadowwider avatar shadowwider commented on June 15, 2024

请问一下你是怎么配置openai的自定义让他支持ollama本地的呢?我配置一直不成功,不像你是有的成功有的不成功。看了主要问题是api/chat这个接口默认是steam模式返回,这个扩展没有办法新增steam:false的参数进去。而/api/generate接口的参数调用又不一样。

https://immersivetranslate.com/docs/services/ai/ 官网的教程里-其他AI模型接入里有说明。 就是以下内容。 其他 AI 模型临时接入 Ollama 从官网下载安装 ollama OLLAMA_ORIGINS="*" ollama serve (允许跨域访问并启动ollama) 进入插件的设置页,翻译服务选择 openAI api_key: ollama 自定义模型: llama2 、other models 自定义 URL 地址: http://localhost:11434/v1/chat/completions

注意一定要设置环境变量才可以配置成功。 不知道能不能看懂这个说明,如果不行我可以截图给你。

非常感谢 ,可以了。 原来真的有这个接口啊 http://localhost:11434/v1/chat/completions 因为ollama文档中没有这个路由 ,我用的其他的。

from immersive-translate.

Related Issues (20)

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.