ソフトウェアエンジニアの技術ブログ：Software engineer tech blog

1. Models（モデル）
LLM や Embedding、画像モデルなど 外部AIモデル を扱うためのモジュール。

含まれる内容
Large Language Models（OpenAI, Anthropic, Azure, HuggingFace など）
ChatModels（チャット用インターフェース）
Embeddings（ベクトル化）
Text-to-Speech / Speech-to-Text
Vision Models

学べること
「複雑な API 呼び出しを、統一的なインターフェースで扱える」

例えば OpenAI と HuggingFace のモデルを同じコードスタイルで使えるようになる。

from langchain_community.llms import HuggingFaceHub
llm = HuggingFaceHub(repo_id=”mistralai/Mistral-7B-Instruct-v0.2″)

2. Prompts（プロンプト）
LLM に渡す指示文を構築・生成・管理する部分。
できること
Prompt Templates（テンプレート化）
Few-shot の自動選択
パラメータ差し込み
出力フォーマット強制（JSON化など）

学べること
「プロンプトをコードとして管理する仕組み」
from langchain.prompts import PromptTemplate

prompt = PromptTemplate.from_template(“要約して: {text}”)
prompt.format(text=”これはテスト文です”)

3. Chains（チェーン）
LLM・ツール・データ処理を パイプラインとしてつなぐ仕組み。
代表例
LLMChain
SequentialChain（複数ステップ実行）
SimpleSequentialChain
学べること

LLM → 加工 → LLM という流れを組み立てる。

from langchain.chains import LLMChain
chain = LLMChain(llm=llm, prompt=prompt)
chain.run(“こんにちは”)

4. Agents（エージェント）
LLM が “自分でツールを選んで使う” 仕組み。
LangChain の最も特徴的な部分。
エージェントでできること
ツール使用（検索、計算、API呼び出し）
思考の分岐（ReAct）
マルチステップ問題解決
学べること
AI に “行動する力” を与える方法。

agent = initialize_agent(
tools=[search_tool, calculator],
llm=llm,
agent=”zero-shot-react-description”,
)
agent.run(“東京の天気を調べて摂氏で教えて”)

5. Retrieval（RAG：検索 + LLM）
外部データを読み込んで検索させる仕組み。
企業で一番使われるのがこれ。
主な機能

VectorStores（Chroma, Pinecone, Qdrant, FAISS）
Document loader（PDF, HTML, Notion, URL）
Retriever（検索器）
RAG チェーン全般

学べること

大量の社内文書を元に答えるチャットボットの実装方法。

from langchain.vectorstores import Chroma
db = Chroma.from_texts(texts, embeddings)
retriever = db.as_retriever()

LangChain Docs を “分かりやすく体系化” するとこうなる
LangChain のドキュメントは大きく次の 5 つの領域に分かれています：

1. Models（モデル）
LLM や Embedding、画像モデルなど 外部AIモデル を扱うためのモジュール。
含まれる内容
Large Language Models（OpenAI, Anthropic, Azure, HuggingFace など）
ChatModels（チャット用インターフェース）
Embeddings（ベクトル化）
Text-to-Speech / Speech-to-Text
Vision Models

学べること
「複雑な API 呼び出しを、統一的なインターフェースで扱える」
例えば OpenAI と HuggingFace のモデルを同じコードスタイルで使えるようになる。
from langchain_community.llms import HuggingFaceHub
llm = HuggingFaceHub(repo_id=”mistralai/Mistral-7B-Instruct-v0.2″)

2. Prompts（プロンプト）
LLM に渡す指示文を構築・生成・管理する部分。
できること
Prompt Templates（テンプレート化）
Few-shot の自動選択
パラメータ差し込み
出力フォーマット強制（JSON化など）

学べること
「プロンプトをコードとして管理する仕組み」
from langchain.prompts import PromptTemplate
prompt = PromptTemplate.from_template(“要約して: {text}”)
prompt.format(text=”これはテスト文です”)

3. Chains（チェーン）
LLM・ツール・データ処理を パイプラインとしてつなぐ仕組み。
代表例
LLMChain
SequentialChain（複数ステップ実行）
SimpleSequentialChain

学べること
LLM → 加工 → LLM という流れを組み立てる。
from langchain.chains import LLMChain
chain = LLMChain(llm=llm, prompt=prompt)
chain.run(“こんにちは”)

4. Agents（エージェント）
LLM が “自分でツールを選んで使う” 仕組み。
LangChain の最も特徴的な部分。

エージェントでできること
ツール使用（検索、計算、API呼び出し）
思考の分岐（ReAct）
マルチステップ問題解決

学べること
AI に “行動する力” を与える方法。

agent = initialize_agent(
tools=[search_tool, calculator],
llm=llm,
agent=”zero-shot-react-description”,
)
agent.run(“東京の天気を調べて摂氏で教えて”)

5. Retrieval（RAG：検索 + LLM）
外部データを読み込んで検索させる仕組み。
企業で一番使われるのがこれ。

主な機能
VectorStores（Chroma, Pinecone, Qdrant, FAISS）
Document loader（PDF, HTML, Notion, URL）
Retriever（検索器）
RAG チェーン全般

学べること
大量の社内文書を元に答えるチャットボットの実装方法。

from langchain.vectorstores import Chroma
db = Chroma.from_texts(texts, embeddings)
retriever = db.as_retriever()

🌟 補足モジュール
■ Memory（記憶）
チャットの文脈保持の仕組み。
会話履歴の保持
要約ベースのメモリ
永続化

■ Tools（ツール）
Python実行
Google検索
Database Query
API呼び出し

■ Output Parsers
JSON抽出
自然言語 → 構造化データ化

Hugging Face Spaces に Llama / Mistral のチャットデモを公開する最小構成

import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer
import torch

# ここを Llama / Mistral など好きなモデルに変更
MODEL_NAME = "mistralai/Mistral-7B-Instruct-v0.2"
# MODEL_NAME = "meta-llama/Llama-3.1-8B-Instruct"  # ← Llama に変更したい場合

# モデルとトークナイザのロード
tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
model = AutoModelForCausalLM.from_pretrained(
    MODEL_NAME,
    torch_dtype=torch.float16,
    device_map="auto"
)

def chat_fn(message, history):
    # 過去履歴を LLM のプロンプト形式に変換
    prompt = ""
    for user, assistant in history:
        prompt += f"<s>[ユーザー]: {user}\n[アシスタント]: {assistant}</s>\n"
    prompt += f"<s>[ユーザー]: {message}\n[アシスタント]:"

    inputs = tokenizer(prompt, return_tensors="pt").to(model.device)

    output_ids = model.generate(
        **inputs,
        max_new_tokens=200,
        temperature=0.7,
        do_sample=True,
        top_p=0.9
    )

    response = tokenizer.decode(output_ids[0], skip_special_tokens=True)

    # 最後のアシスタント発言だけ抽出
    if "[アシスタント]:" in response:
        response = response.split("[アシスタント]:")[-1].strip()

    history.append((message, response))
    return response, history


# Gradio UI
with gr.Blocks() as demo:
    gr.Markdown("# 🦙💬 Simple Llama / Mistral Chatbot")
    chatbot = gr.Chatbot()
    msg = gr.Textbox(label="Message")

    def user_send(user_message, chat_history):
        return "", chat_history + [[user_message, None]]

    msg.submit(user_send, [msg, chatbot], [msg, chatbot]).then(
        chat_fn, [msg, chatbot], [chatbot]
    )

demo.launch()

===== Application Startup at 2025-11-16 11:06:22 =====

tokenizer_config.json: 0%| | 0.00/2.10k [00:00

Hugging Face は オープンソースLLMのプラットフォーム & コミュニティ
世界中のAIモデル・データセット・サンプルコードが集まるGitHub＋App Store＋AI研究コミュニティ

## Hugging Faceで何が出来る？
🤖 モデルHub Llama・Mistral・Gemma など数万のLLMをダウンロードして試せる
📚 データセットHub 研究用の巨大データセットが公開されていて利用可能
🚀 Transformers ライブラリ Python でLLMを簡単に使える神ライブラリ
🧪 Inference API / Endpoints GPUいらずでモデルをAPIとして利用できる
🧱 PEFT / LoRA サポート 軽量ファインチューニングが簡単
📊 Spaces（デモアプリ） Streamlit / Gradio でAIアプリをホスティング
🫂 AIコミュニティ モデル公開や議論・PRが活発で世界最大級

① Model Hub
世界中のLLMがここに集まっています。

例：
meta-llama/Llama-3.1-8B
mistralai/Mistral-7B
google/gemma-2-9b
EleutherAI/gpt-j-6b
GitHubと同じように、モデルごとにページがあり

説明
推奨ハイパーパラメータ
サンプルコード
重み（weights）
が公開されています。
→ とりあえず Hugging Face の中心はコレ と覚えればOK。

e.g.
https://huggingface.co/meta-llama/Llama-3.1-8B

### Transformer library

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-Instruct")
tokenizer = AutoTokenizer.from_pretrained("mistralai/Mistral-7B-Instruct")

inputs = tokenizer("こんにちは！自己紹介してください。", return_tensors="pt")
outputs = model.generate(**inputs, max_length=100)

print(tokenizer.decode(outputs[0], skip_special_tokens=True))

### Space（AIアプリ）
Gradio や Streamlit を使って、ブラウザで動くデモアプリを無料で公開できるサービス。

Mistral (ミストラル)
Mistralは、フランスのAIスタートアップ企業Mistral AIによって開発されているLLMのシリーズです。
開発元: Mistral AI (フランス)
主な特徴:
オープンソース/オープンウェイト: 多くのモデルがオープンソースまたはオープンウェイト（モデルの重み/パラメータが公開されている）で提供されており、研究者や開発者が自由に利用、改変、再配布しやすいのが大きな特徴です。

### Gradio、Streamlit
GradioとStreamlitは、どちらもPythonのコードのみで、機械学習モデルのデモやデータ分析のためのインタラクティブなWebアプリケーションを簡単に作成するためのライブラリ（フレームワーク）です。

Hugging Faceは、特にGradioの開発元を傘下に収めており、そのプラットフォーム「Hugging Face Spaces」でGradioとStreamlitのアプリケーションをホスティング（公開）できるようにしています。