Jan – 开源免费桌面AI客户端(支持ChatGPT)

Jan(开源免费桌面AI客户端)简介

Jan是一个开源免费桌面AI客户端,支持在各种硬件上运行,包括Nvidia GPU、Apple M系列芯片、Apple Intel芯片、Linux Debian和Windows x64。我们可以在桌面设备上直接使用该客户端进行实时对话、文本生成和语言理解等任务。支持多种主流的AI模型,具有可扩展性,我们完全可以根据自己的需求进行定制和扩展。

该AI客户端工具基于开源项目LLama.cpp和TensorRT构建而成,并遵循AGPL-3.0许可协议,可以为我们提供AI智能对话和自然语言处理能力。

Jan - 开源免费桌面AI客户端

Jan(开源免费桌面AI客户端)官网及下载

支持的硬件平台;

  • Nvidia GPUs
  • Apple M-series
  • Apple Intel
  • Linux Debian
  • Windows x64

支持的AI模型:

  • Mistral Instruct 7B Q4
  • OpenHermes Neural 7B Q4
  • Trinity-v1.2 7B Q4
  • Starling alpha 7B Q4
  • Llama 2 Chat 7B Q4
  • Trinity-v1 7B Q4
  • Noromaid 7B Q5
  • Wizard Coder Python 13B Q5
  • Pandora 11B Q4
  • Solar Slerp 10.7B Q4
  • Capybara 200k 34B Q5
  • Phind 34B Q5
  • Yi 34B Q5
  • Deepseek Coder 33B Q5
  • Mixtral 8x7B Instruct Q4
  • Llama 2 Chat 70B Q4
  • Lzlv 70B Q4
  • Deepseek Coder 1.3B Q8
  • OpenAI GPT 3.5 Turbo
  • OpenAI GPT 3.5 Turbo 16k 0613
  • OpenAI GPT 4
  • TinyLlama Chat 1.1B Q4
  • Phi-2 3B Q4

相关文章