Zhang Jian

「Hello World」

基于AutoGen的数智助手问答架构设计

多智能体对话系统的深度思维链实践

🔍 一、整体架构设计 💡 我们采用分层模块化的设计理念，构建了一个灵活可扩展的多智能体系统。这种设计不仅确保了系统的高可用性，也为未来的功能扩展提供了良好的基础。 基于多智能体的架构设计采用分层模块化方案，主要包含以下核心组件： 1.1 顶层控制模块 意图澄清Agent： 采用规则模板+相似度匹配处理模糊问题，阈值（例如<0.8）触发澄清...

Posted by Zhang Jian on February 5, 2025

江苏移动数智助手Text2SQL大模型微调实践

“随着人工智能技术的迅猛发展，企业在数据处理和分析方面的需求也日益增长。为了更高效地从海量数据中提取有用信息，我们在数智助手中进行了Text2SQL微调实践。这不仅提高了数据查询的效率，还大幅提升了用户体验。” 问题分析 Text2SQL也称NL2SQL，指用自然语言向LLM提问，推理生成结构化SQL语句的过程。 随着大语言模型的迅猛演进，通过LLM将自然语言表达的用户需求转化...

Posted by Zhang Jian on August 3, 2024

Introducing Intel LLM-on-Ray: A New Era for Large Language Models

Pretrain, finetune and serve LLMs on Intel platforms with Ray

We are thrilled to announce the launch of the Intel LLM-on-Ray project, a groundbreaking initiative designed to revolutionize the way large language models (LLMs) are pretrained, finetuned, and ser...

Posted by Zhang Jian on December 9, 2023

Highly Accurate Image Segmentation

自家服务器部（only CPU）署了了一个ISNet的服务，不定时开放，欢迎体验：入口 前言 最近回顾了一下之前使用过的高精度图像分割算法，从BASNet，到U2Net，再到2022年的DIS。高精度的图像分割技术在计算机视觉领域具有着极为重要的应用。通过准确地分离图像中的不同对象、区域和特征，我们可以实现： 更安全的自动驾驶：通过将道路、车道线、交通标志和行人精确分离，以帮助...

Posted by Zhang Jian on November 6, 2023

ChatGLM Serving in Intel i5 CPU Demo

部分时间开放测试 如果页面没有自动跳转，请点击此链接。

Posted by Zhang Jian on October 28, 2023

Reinforcement Learning Basics（1）

Introduction 智能体（Agent）是一个能够感知环境（Environment）中的状态（State）并采取动作（Action）的实体。智能体的目标是在某些时间步中，以最大化的总回报或奖励（Reward）完成任务。为了实现这个目标，智能体需要利用之前的经验和当前的信息来选择最佳的动作，这个选择过程根据策略（Policy）来执行。 Agent：智能体，它是一个能够在环境...

Posted by Zhang Jian on March 14, 2023

FEATURED TAGS
dl compilation hpc make llm tbb
ABOUT ME

I am an algorithm engineer. My personal interests involve computer vision, computer graphics and robotics.

STATISTICS
  • 访问量：
    次
  • 访客数：
    人次
CONTACT ME

jianzhang@smail.nju.edu.cn