当前位置: 首页 > news >正文

新疆乌鲁木齐职业大学保定seo推广公司

新疆乌鲁木齐职业大学,保定seo推广公司,衡水网站设计怎么做,龙华网站建设多少钱随着硅基流动(SiliconFlow)提供的InternLM2.5-7B-Chat服务的免费开放,我们迎来了MindSearch部署的全新篇章。这一服务的免费提供,不仅极大地降低了部署门槛,还为MindSearch的使用者带来了纯CPU版本的便利。本文将为您详…

随着硅基流动(SiliconFlow)提供的InternLM2.5-7B-Chat服务的免费开放,我们迎来了MindSearch部署的全新篇章。这一服务的免费提供,不仅极大地降低了部署门槛,还为MindSearch的使用者带来了纯CPU版本的便利。本文将为您详细介绍如何利用硅基流动的API来部署MindSearch。

快速开始

首先,您需要访问硅基流动的官方网站并注册一个账号。如果您已经注册过,直接登录即可。

  1. 注册/登录硅基流动账号

    访问 硅基流动云平台 进行注册或登录。

  2. 获取API Key

    完成注册后,前往 API密钥管理 页面。在这里,您需要创建一个新的API密钥并复制它,以便后续使用。

    API密钥创建

配置MindSearch

硅基流动的API接口与OpenAI的API接口完全一致,这使得配置过程变得异常简单。首先,您需要克隆MindSearch到本地,并安装所需的依赖项。具体的安装指南可以参考 MindSearch的GitHub仓库。

接下来,您需要修改MindSearch的配置文件,以便接入硅基流动的API。

  1. 修改配置文件

    打开/path/to/MindSearch/mindsearch/models.py文件,并添加以下配置:

    internlm_silicon = dict(type=GPTAPI,model_type='internlm/internlm2_5-7b-chat',key=os.environ.get('SILICON_API_KEY', 'YOUR SILICON API KEY'),openai_api_base='https://api.siliconflow.cn/v1/chat/completions',meta_template=[dict(role='system', api_role='system'),dict(role='user', api_role='user'),dict(role='assistant', api_role='assistant'),dict(role='environment', api_role='system')],top_p=0.8,top_k=1,temperature=0,max_new_tokens=8192,repetition_penalty=1.02,stop_words=['<|im_end|>'])
    

启动MindSearch

配置完成后,您可以开始启动MindSearch。

  1. 启动后端

    设置硅基流动的API Key,并启动MindSearch的后端服务:

    # 设置API Key
    export SILICON_API_KEY=您复制的密钥
    # 启动服务
    python -m mindsearch.app --lang en --model_format internlm_silicon --search_engine DuckDuckGoSearch
    
  2. 启动前端

    使用Gradio前端启动MindSearch。如果您使用的是其他前端,请参考MindSearch的README文档。

    python frontend/mindsearch_gradio.py
    

体验效果

启动完成后,您可以开始体验MindSearch的强大功能。响应速度非常快,用户体验极佳。

响应速度

部署到HuggingFace Space

您还可以选择将MindSearch部署到HuggingFace的Space中。

  1. 创建Space

    访问 HuggingFace Space 创建一个新的Space。

    创建Space

  2. 设置API Key

    创建成功后,进入Space的设置页面,配置API Key。

    设置API Key

  3. 上传文件

    将MindSearch目录、requirements.txtapp.py文件上传到Space中。

    上传文件

    app.py的具体内容请访问 HuggingFace Space上的MindSearch_X_SiliconFlow 查看。


http://www.yidumall.com/news/21537.html

相关文章:

  • 沧州网站建设开发服务行业网络营销
  • 企业网站建设层次网站排名优化怎么做
  • 宝安营销型网站制作产品市场推广方案
  • 扶绥县住房和城乡建设局网站又有什么新病毒出现了
  • 网站专题素材推广普通话标语
  • 有没有小学生做兼职的网站自动点击器永久免费版
  • 汕头市建设网站企业网络营销策略案例
  • 专门做10s视频的网站疫情最新资讯
  • 开网站需要哪些程序app推广渠道商
  • 小县城做网站在线数据分析工具
  • 在局域网服务器建设网站教程新东方雅思培训价目表
  • 鞍山做网站哪家好做电商需要什么条件
  • 唐山企业网站企业网络营销方案策划
  • wordpress字体功能昆明网站seo优化
  • 应用公园app官方下载国外网站谷歌seo推广
  • 光谷软件园企业网站建设公司上海aso优化公司
  • 网站设计简单网页seochinazcom
  • 汉口做网站做网站的好处
  • p2p倒闭 网站开发站外推广方式
  • wordpress怎么添加广告代码seo排名哪家正规
  • 网站备案 国外域名seo优化网站推广全域营销获客公司
  • 湖南基础建设投资集团网站yoast seo教程
  • 网站开发工作周记关键词的优化和推广
  • 铁法能源公司网站官网排名优化方案
  • wordpress php开发手册网站怎么优化到首页
  • 运城 网站制作广州最新疫情最新消息
  • 张家港做网站优化价格友情链接交换标准
  • 网站如何添加百度统计宣传推广方式
  • 上海专业网站营销收录查询站长工具
  • 怎样设计一个网站正规排名网站推广公司