Zhang Jian

「Hello World」

江苏移动数智助手Text2SQL大模型微调实践

“随着人工智能技术的迅猛发展，企业在数据处理和分析方面的需求也日益增长。为了更高效地从海量数据中提取有用信息，我们在数智助手中进行了Text2SQL微调实践。这不仅提高了数据查询的效率，还大幅提升了用户体验。” 问题分析 Text2SQL也称NL2SQL，指用自然语言向LLM提问，推理生成结构化SQL语句的过程。 随着大语言模型的迅猛演进，通过LLM将自然语言表达的用户需求转化...

Posted by Zhang Jian on August 3, 2024

Introducing Intel LLM-on-Ray: A New Era for Large Language Models

Pretrain, finetune and serve LLMs on Intel platforms with Ray

We are thrilled to announce the launch of the Intel LLM-on-Ray project, a groundbreaking initiative designed to revolutionize the way large language models (LLMs) are pretrained, finetuned, and ser...

Posted by Zhang Jian on December 9, 2023

Highly Accurate Image Segmentation

自家服务器部（only CPU）署了了一个ISNet的服务，不定时开放，欢迎体验：入口 前言 最近回顾了一下之前使用过的高精度图像分割算法，从BASNet，到U2Net，再到2022年的DIS。高精度的图像分割技术在计算机视觉领域具有着极为重要的应用。通过准确地分离图像中的不同对象、区域和特征，我们可以实现： 更安全的自动驾驶：通过将道路、车道线、交通标志和行人精确分离，以帮助...

Posted by Zhang Jian on November 6, 2023

ChatGLM Serving in Intel i5 CPU Demo

部分时间开放测试 如果页面没有自动跳转，请点击此链接。

Posted by Zhang Jian on October 28, 2023

Reinforcement Learning Basics（1）

Introduction 智能体（Agent）是一个能够感知环境（Environment）中的状态（State）并采取动作（Action）的实体。智能体的目标是在某些时间步中，以最大化的总回报或奖励（Reward）完成任务。为了实现这个目标，智能体需要利用之前的经验和当前的信息来选择最佳的动作，这个选择过程根据策略（Policy）来执行。 Agent：智能体，它是一个能够在环境...

Posted by Zhang Jian on March 14, 2023

Let's build GPT: from scratch, in code, spelled out (1)

最近Karpathy写的这篇关于gpt的教程通俗易懂，引起了非常大的反响。这里，我参考了这篇教程进行了简单翻译、总结。 简介 ChatGPT, Transformers, nanoGPT, Shakespeare ChatGPT是一个革命性的语言模型，在人工智能界引起了轰动，它是一个基于文本让你和AI互动的系统。例如，可以要求ChatGPT给我们写一首俳句，说明人们了解AI的重要性以及...

Posted by Zhang Jian on January 20, 2023

FEATURED TAGS
dl compilation hpc make llm tbb
ABOUT ME

I am an algorithm engineer. My personal interests involve computer vision, computer graphics and robotics.

STATISTICS
  • 访问量：
    次
  • 访客数：
    人次
CONTACT ME

jianzhang@smail.nju.edu.cn