Qwen1.5-1.8B GPTQ开发环境配置:IntelliJ IDEA插件开发初探

news2026/3/30 23:27:03
Qwen1.5-1.8B GPTQ开发环境配置IntelliJ IDEA插件开发初探如果你是一名Java开发者对AI大模型感兴趣想在自己的IDE里搞点“智能”新花样那么你来对地方了。今天我们不聊复杂的模型训练也不讲高深的算法原理就从一个最实际、最好玩的角度切入如何在IntelliJ IDEA里亲手配置环境调用一个轻量级但能力不俗的AI模型并尝试开发一个属于自己的IDEA插件。想象一下在写代码时IDE能基于你的上下文智能地给出补全建议或者选中一段代码右键就能生成清晰的中文注释。这些功能听起来很酷实现起来其实并没有想象中那么遥不可及。本文将以阿里开源的轻量级大模型Qwen1.5-1.8B的GPTQ量化版本为例手把手带你完成从环境搭建到插件雏形开发的完整旅程。整个过程就像搭积木我们一步步来。1. 为什么选择Qwen1.5-1.8B和IDEA插件开发在开始动手之前我们先简单聊聊为什么是这两个组合。Qwen1.5-1.8B是一个参数规模为18亿的大语言模型。对于本地部署和轻量级应用来说它有几个突出的优点体量小巧1.8B的参数量经过GPTQ量化后模型文件大小可以控制在几个GB以内对个人开发者的显卡甚至一些性能不错的集成显卡或CPU比较友好。能力均衡虽然在庞然大物面前它是“小模型”但在代码生成、文本理解、逻辑推理等任务上表现相当不错足以支撑很多智能辅助功能。易于集成它提供了标准的HTTP API接口这意味着我们可以用任何能发送HTTP请求的语言比如Java来调用它完美契合我们的插件开发需求。而IntelliJ IDEA插件开发则是将AI能力无缝融入开发者工作流的最佳载体。通过插件我们可以深度集成直接操作IDE的编辑器、项目结构、UI界面实现原生化体验。提升效率将AI能力转化为具体的、可重复使用的功能比如智能补全、代码解释、重构建议等。学习价值这个过程能让你深入了解IDEA的扩展机制、Swing UI开发以及如何设计异步、响应式的应用。简单说我们的目标就是在IDEA里写一个插件这个插件能偷偷去问部署好的Qwen模型“接下来该写什么代码”或者“这段代码是啥意思”然后把答案漂亮地展示出来。2. 前期准备模型部署与测试插件开发是“客户端”我们首先得把“服务器端”——也就是AI模型服务——给跑起来。2.1 获取与部署Qwen1.5-1.8B-GPTQ模型我们假设你已经在本地或一台有GPU的服务器上准备好了基础环境Python、CUDA等。这里推荐使用text-generation-webui又称oobaboogas WebUI或vLLM这类工具来部署它们自带API省去我们从头写服务端的麻烦。以text-generation-webui为例最简化的步骤克隆仓库并安装git clone https://github.com/oobabooga/text-generation-webui cd text-generation-webui pip install -r requirements.txt下载模型你需要找到Qwen1.5-1.8B的GPTQ量化模型文件通常从Hugging Face Model Hub获取。假设模型文件夹名为Qwen1.5-1.8B-GPTQ。启动WebUI并加载模型python server.py --model Qwen1.5-1.8B-GPTQ --api --listen--model: 指定你的模型文件夹路径。--api: 启用API接口这是关键。--listen: 允许网络访问如果服务在远程机器上。启动成功后你应该能在终端看到服务运行在http://localhost:7860或类似的地址上。打开浏览器访问这个地址能看到WebUI界面说明模型加载成功。2.2 测试API接口在开发插件前我们先确认API能通。text-generation-webui的API兼容OpenAI格式这非常方便。我们可以用一个简单的Python脚本来测试import requests import json url http://localhost:7860/v1/chat/completions # API端点 headers {Content-Type: application/json} data { model: Qwen1.5-1.8B-GPTQ, # 你的模型名 messages: [ {role: user, content: 用Java写一个Hello World程序。} ], stream: False, max_tokens: 200 } response requests.post(url, headersheaders, datajson.dumps(data)) if response.status_code 200: result response.json() print(result[choices][0][message][content]) else: print(f请求失败: {response.status_code}) print(response.text)运行这个脚本如果能看到模型生成的Java代码恭喜你服务器端已经就绪记下你的API地址如http://192.168.1.100:7860和模型名称稍后插件里会用到。3. 搭建IntelliJ IDEA插件开发环境现在把目光转回IntelliJ IDEA我们要在这里创建一个插件项目。3.1 安装必备插件与创建项目确保你使用的是IntelliJ IDEA Ultimate版本社区版对插件开发支持有限。在Plugins市场中搜索并安装“Plugin DevKit”和“Gradle”插件如果尚未安装。点击File - New - Project...。在左侧选择Gradle在右侧确保勾选了Java和IntelliJ Platform Plugin。输入项目名称例如QwenAIDeveloperHelper选择项目位置点击Create。IDEA会自动创建一个基于Gradle的插件项目结构。关键文件包括build.gradle.kts项目构建脚本管理依赖。src/main/resources/META-INF/plugin.xml插件的配置文件声明扩展点、动作等。src/main/java你的Java源代码目录。3.2 添加必要的依赖我们需要让插件能够发送HTTP请求调用模型API和处理JSON。修改build.gradle.kts文件中的dependencies部分dependencies { // IntelliJ平台依赖版本通常与你的IDEA版本对应 intellijPlatform { // 使用本地安装的IDEA版本号根据你的实际情况调整 localPath.set(C:\\Program Files\\JetBrains\\IntelliJ IDEA 2023.2) // Windows示例 // 或者使用指定版本的IDEA // version.set(2023.2) } // 添加网络和JSON处理库 implementation(com.squareup.okhttp3:okhttp:4.12.0) implementation(com.google.code.gson:gson:2.10.1) testImplementation(junit:junit:4.13.2) }这里我们选择了OkHttp作为HTTP客户端Gson作为JSON解析库它们都是Java生态中广泛使用、API友好的库。修改后点击Gradle工具栏的刷新按钮下载依赖。4. 核心步骤实现API调用服务一切就绪开始写代码。我们先创建一个核心服务类专门负责与Qwen模型API通信。4.1 创建模型请求与响应类首先定义数据结构来映射API的请求和响应。这能让代码更清晰。// 文件src/main/java/com/yourcompany/qwenai/model/ApiRequest.java package com.yourcompany.qwenai.model; import java.util.List; public class ApiRequest { private String model; private ListMessage messages; private boolean stream false; private int max_tokens 500; // 静态内部类表示消息 public static class Message { private String role; // user, assistant, system private String content; // 构造方法、Getter和Setter省略... public Message(String role, String content) { this.role role; this.content content; } // ... 生成Getter和Setter (IDEA可以自动生成) } // 构造方法、Getter和Setter... public ApiRequest(String model, ListMessage messages) { this.model model; this.messages messages; } // ... 生成Getter和Setter }// 文件src/main/java/com/yourcompany/qwenai/model/ApiResponse.java package com.yourcompany.qwenai.model; public class ApiResponse { private ListChoice choices; public static class Choice { private Message message; // ... Getter和Setter public static class Message { private String content; // ... Getter和Setter } } // ... Getter和Setter // 一个便捷方法获取回复内容 public String getFirstContent() { if (choices ! null !choices.isEmpty()) { Choice.Message msg choices.get(0).getMessage(); return msg ! null ? msg.getContent() : ; } return ; } }4.2 实现API客户端接下来实现一个简单的客户端使用OkHttp发送请求。// 文件src/main/java/com/yourcompany/qwenai/service/QwenAIClient.java package com.yourcompany.qwenai.service; import com.google.gson.Gson; import com.yourcompany.qwenai.model.ApiRequest; import com.yourcompany.qwenai.model.ApiResponse; import okhttp3.*; import java.io.IOException; import java.util.Collections; public class QwenAIClient { private static final MediaType JSON MediaType.get(application/json; charsetutf-8); private final OkHttpClient client new OkHttpClient(); private final Gson gson new Gson(); private final String apiUrl; // 例如http://localhost:7860/v1/chat/completions private final String modelName; // 例如Qwen1.5-1.8B-GPTQ public QwenAIClient(String apiUrl, String modelName) { this.apiUrl apiUrl; this.modelName modelName; } public String chatCompletion(String userMessage) throws IOException { // 1. 构建请求体 ApiRequest.Message msg new ApiRequest.Message(user, userMessage); ApiRequest requestBody new ApiRequest(modelName, Collections.singletonList(msg)); String jsonBody gson.toJson(requestBody); RequestBody body RequestBody.create(jsonBody, JSON); // 2. 构建请求 Request request new Request.Builder() .url(apiUrl) .post(body) .build(); // 3. 发送同步请求插件中应考虑异步此处为简化示例 try (Response response client.newCall(request).execute()) { if (!response.isSuccessful()) { throw new IOException(Unexpected code response , body: response.body().string()); } String responseBody response.body().string(); // 4. 解析响应 ApiResponse apiResponse gson.fromJson(responseBody, ApiResponse.class); return apiResponse.getFirstContent(); } } }这个类封装了与AI模型对话的核心逻辑。在实际插件中你需要将apiUrl和modelName通过配置如持久化存储来管理。5. 插件功能实践创建一个简单的代码注释生成器有了API客户端我们就可以构建具体的插件功能了。我们来实现一个最直观的功能在编辑器中选中一段代码右键菜单生成注释。5.1 创建动作(Action)在IDEA插件开发中用户交互如点击菜单、按钮通常通过AnAction类来实现。// 文件src/main/java/com/yourcompany/qwenai/action/GenerateCommentAction.java package com.yourcompany.qwenai.action; import com.intellij.openapi.actionSystem.AnAction; import com.intellij.openapi.actionSystem.AnActionEvent; import com.intellij.openapi.actionSystem.CommonDataKeys; import com.intellij.openapi.editor.Editor; import com.intellij.openapi.project.Project; import com.intellij.openapi.ui.Messages; import com.yourcompany.qwenai.service.QwenAIClient; import org.jetbrains.annotations.NotNull; import java.io.IOException; public class GenerateCommentAction extends AnAction { Override public void update(NotNull AnActionEvent e) { // 仅在编辑器中有文本选中时该Action才可用 final Editor editor e.getData(CommonDataKeys.EDITOR); final Project project e.getProject(); e.getPresentation().setEnabledAndVisible( project ! null editor ! null editor.getSelectionModel().hasSelection() ); } Override public void actionPerformed(NotNull AnActionEvent e) { final Editor editor e.getRequiredData(CommonDataKeys.EDITOR); final Project project e.getProject(); // 1. 获取选中的代码文本 String selectedText editor.getSelectionModel().getSelectedText(); if (selectedText null || selectedText.trim().isEmpty()) { Messages.showInfoMessage(project, 请先选择一段代码。, 提示); return; } // 2. 构建提示词让AI生成中文注释 String prompt 请为以下代码生成简洁、清晰的中文注释解释其功能。直接输出注释内容不要输出代码本身。代码\n\n selectedText \n; // 3. 调用AI服务这里应使用后台任务避免阻塞UI // 为了示例简单我们直接同步调用。实际应用中请使用 Task.Backgroundable try { // TODO: 应从配置中读取API地址和模型名 QwenAIClient client new QwenAIClient(http://localhost:7860/v1/chat/completions, Qwen1.5-1.8B-GPTQ); String comment client.chatCompletion(prompt); // 4. 将生成的注释插入到代码上方这里简化处理直接弹窗显示 Messages.showMessageDialog(project, 生成的注释\n comment, AI注释生成, Messages.getInformationIcon()); // 实际可以插入到编辑器editor.getDocument().insertString(selectionStart, // comment \n); } catch (IOException ex) { Messages.showErrorDialog(project, 调用AI服务失败: ex.getMessage(), 错误); } } }5.2 注册动作与扩展点光有Action类还不够我们需要在plugin.xml中注册它并把它添加到编辑器的右键菜单中。打开src/main/resources/META-INF/plugin.xml在extensions和actions部分添加配置idea-plugin !-- 其他已有配置... -- extensions defaultExtensionNscom.intellij !-- 可以在这里添加其他扩展点比如工具窗口、服务等 -- /extensions actions !-- 将我们的动作添加到“EditorPopupMenu” (编辑器右键菜单) -- action idQwenAI.GenerateComment classcom.yourcompany.qwenai.action.GenerateCommentAction text用AI生成注释 description使用Qwen模型为选中代码生成注释 !-- 添加到编辑器右键菜单的最后一个分组 -- add-to-group group-idEditorPopupMenu anchorlast/ /action /actions /idea-plugin5.3 运行与测试插件点击IDEA右上角的Run按钮绿色三角或使用ShiftF10。这会启动一个安装了当前插件的沙盒IDEA实例。在新的IDEA实例中创建一个Java文件写一段简单的代码比如一个方法。选中这段代码右键点击你应该能在弹出的上下文菜单底部看到“用AI生成注释”的选项。点击它等待片刻取决于你的模型服务速度就能看到AI生成的注释弹窗了6. 总结与展望走完这一趟你会发现将AI大模型集成到日常开发工具中并没有那么神秘。我们做的事情本质上是搭建一个本地模型服务 - 用HTTP客户端去调用它 - 在IDE的扩展框架里处理用户输入并展示结果。这个简单的注释生成器只是一个起点它验证了整个流程的可行性。在此基础上你可以尽情发挥创意代码补全建议监听用户的输入事件将当前文件的部分上下文、光标前的代码发送给模型请求它给出接下来的几行代码建议以内联提示Inlay Hint的方式展示。代码解释与重构不仅生成注释还可以让AI解释复杂代码块的逻辑甚至提出重构建议。错误分析与修复将编译错误或运行时异常信息发送给AI让它分析可能的原因和修复方案。对话式助手在IDE侧边栏增加一个聊天面板开发者可以随时就当前项目、代码库进行提问。当然要做出一个稳定、好用的生产级插件还有很多工作要做比如配置界面让用户填写自己的API地址、使用后台线程进行网络请求避免界面卡顿、处理网络超时和错误、设计更友好的用户交互、缓存结果以提升体验等等。但最重要的是你已经掌握了最关键的一步——如何将想法连接起来。Qwen1.5-1.8B这样的轻量模型降低了本地部署的门槛而IntelliJ IDEA强大的扩展API则为实现各种奇思妙想提供了舞台。不妨就从今天这个小小的注释生成器开始动手改造你的开发环境让它变得更智能、更懂你吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2466538.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…