コンテンツにスキップ

llm

AIエンジニアが今知るべき設計原則 / プロンプトからコンテキストへ

結論：何が変わったのか

  • 「プロンプトエンジニアリング」から「コンテキストエンジニアリング」へ。これは単なる言葉の言い換えではありません。
  • プロンプトエンジニアリングは「完璧な呪文を探す行為」でした。コンテキストエンジニアリングは「LLMが仕事をするために必要な情報を動的に組み立てるシステム設計」です。
  • エージェントの失敗の大半は、モデルの失敗ではなくコンテキストの失敗です。

1. LLMの本質を理解する

LLMは「予測エンジン」です

LLMはデータベースから答えを検索しているのではありません。入力テキストの「最も確率的に自然な続き」を生成しています。したがって開発者の仕事は、モデルが予測する「続き」がユーザーの意図する「正解」と一致するように、確率空間を制約することにあります。

出力を制御する3つのパラメータ

パラメータ 役割 論理タスク 創造タスク
Temperature ランダム性の調整 0〜0.1 0.7以上
Top-K 候補トークン数の制限 1〜20 40以上
Top-P 累積確率による動的フィルタ 0.9 0.95
  • 重要: Temperature=0は最強の制約です。これを設定すると、Top-KやTop-Pの効果は無効化されます。
  • 論理的推論（CoT）にはTemperature=0が必須です。

2. コンテキストの構成要素

「コンテキスト」とは、モデルが応答を生成する前に「見る」すべての情報を指します。

Context Window 内容
System Prompt モデルの振る舞い、ルール、例示
User Prompt 直接的なタスクや質問
Conversation 会話履歴（短期記憶）
Long-term Memory 過去の会話から学んだ情報
RAG Data 外部DBやAPIからの最新情報
Tools 呼び出し可能な関数の定義
Output Schema 期待する出力形式（JSON等）

重要な認識: これは「一度書いたら終わり」のテンプレートではありません。リクエストごとに動的に組み立てるシステムの出力です。

  • in ai, llm, slm
  • このページは約15分で読めます

LLMとSLMの共存時代へ：小型言語モデル(SLM)

知っておくべき現実：ChatGPTの運用コスト

OpenAIのGPT-4を使用した場合、1日1000万リクエスト（各1000トークン）を処理すると、推論コストだけで月額約300万円に達することもあります。さらに、応答時間は平均2〜5秒、ピーク時には10秒を超えることも珍しくありません。

こうした課題が、AI業界に新たな潮流を生み出しています。それが 小型言語モデル(Small Language Models - SLMs) です。

MicrosoftのPhi-3-miniは38億パラメータながらGPT-3.5に匹敵する性能を達成し、推論コストを90%削減。応答時間も100ミリ秒以下を実現しています。

  • in ai, llm, RAG, GraphRAG
  • このページは約15分で読めます

GraphRAGでRAGの精度向上

はじめに: なぜ今GraphRAGなのか

「RAGの精度がイマイチ...」「複雑な質問になると的外れな回答が返ってくる」

こんな悩みを抱えているエンジニアの方は多いのではないでしょうか。実は、従来のベクトルRAGには構造的な限界があり、それを解決するのが Microsoft Researchが開発したGraphRAG です。

本記事では、GraphRAGの仕組みから実装方法、そして最新のLazyGraphRAGまで、実際にシステムを構築する際に必要な知識を体系的に解説します。

ベクトルRAGの限界とGraphRAGが解決する課題

従来のベクトルRAGの問題点

ベクトルRAGは「点と点を結びつける」能力が欠如しています。具体的には:

  • マルチホップ推論の苦手さ: 複数の文書に散在する情報を統合できない
  • グローバルな理解の欠如: 「このドキュメント全体の主要テーマは？」といった質問に答えられない
  • 説明可能性の低さ: 「ベクトルが近かったから」という不透明な理由付け

LLM監査AIシステムの設計と実装 (2) / LLM-as-a-Judge

はじめに

大規模言語モデル（LLM）の急速な普及により、その出力の品質評価が重要な課題となっています。従来の人間による評価は時間とコストがかかり、スケーラビリティに欠けるという問題がありました。そこで登場したのが「LLM-as-a-Judge」というパラダイムです。 今回、LLM-as-a-Judgeの仕組みから実装方法、そして実務での活用における注意点まで、エンジニアが知っておくべきことを説明します。

LLM-as-a-Judgeとは何か

基本概念

LLM-as-a-Judgeは、大規模言語モデル自体を評価者として利用し、他のLLMやAIシステムが生成したテキストの品質を評価する手法です。簡単に言えば、「AIがAIの出力を採点する」仕組みです。

なぜ今注目されているのか

従来の評価方法には以下の課題がありました：

  • 人間評価の限界: 大量のデータを評価するには膨大な時間とコストがかかる
  • 評価者間のばらつき: 複数の評価者による主観的な判断の不一致
  • 既存指標の不十分さ: BLEUやROUGEなどの従来指標では、オープンエンドな出力の品質を適切に評価できない

LLM-as-a-Judgeは、これらの課題に対する実用的な解決策として注目されています。

LLM監査AIシステムの設計と実装 (1)

はじめに

大規模言語モデル（LLM）の急速な普及により、私たちエンジニアは新たな課題に直面しています。LLMが生成するコンテンツの品質、安全性、信頼性をどのように担保するのか。従来のソフトウェアテストとは根本的に異なるこの課題に対して、AI自身を活用した監査システムの構築が注目されています。

LLM生成コンテンツの監査システムについて、その必要性から具体的な設計パターン、実装上の考慮事項まで、エンジニアリングの観点から包括的に説明します。

LLM監査の本質的な課題

従来のソフトウェア監査との決定的な違い

従来のソフトウェア監査では、人間が記述したコードの静的解析や、予測可能な動作の検証が中心でした。しかし、LLMの監査においては、システムが「生成する」コンテンツそのものが監査対象となります。これは監査の対象が「意図されたロジック」から「生成された振る舞い」へと根本的に変化したことを意味します。

LLMの出力は確率的であり、同じ入力に対しても異なる出力を生成する可能性があります。さらに、その出力にはハルシネーション（事実に基づかない情報の生成）、バイアス、有害コンテンツなど、予測困難なリスクが含まれる可能性があります。

Inference-Time Scaling for Generalist Reward Modeling (1)

こんにちは！今回のエンジニアブログでは、DeepSeek AIと清華大学の研究者によって発表された論文 Inference-Time Scaling for Generalist Reward Modelingで提案された革新的なアプローチについてご紹介します。この研究は、大規模言語モデル(LLM)のアライメント技術における重要なブレークスルーとなる可能性を秘めています。

LLMアライメントの課題：汎用的報酬モデリング

大規模言語モデル(LLM)の性能を向上させ、人間の価値観と整合させるために、強化学習（特にRLHF: 人間のフィードバックからの強化学習）が広く採用されてきました。しかし、強化学習(RL)の成功はReward Signal(報酬信号)の質に大きく依存しています。

正解が明確に定義できる数学やコーディング問題では報酬を設計しやすいですが、実世界の多くの応用場面では、多様で複雑かつ主観的な評価基準が求められる「汎用的」なクエリに対応する必要があります。従来の報酬モデル（RM）には以下のような限界がありました：

  • スカラーRM：単純な数値スコアを出力するため表現力が乏しい
  • ペアワイズRM：応答ペア間の好みを評価するが、入力形式の柔軟性に欠ける

DeepSeekの革新的アプローチ：SPCTとDeepSeek-GRM

本研究ではこれらの課題に対し、以下の革新的技術を提案しています：

1. Self-Principled Critique Tuning (SPCT)

SPCTは生成的報酬モデル(GRM)の品質と推論時スケーラビリティを向上させるために設計された新しい学習手法です。この手法の特徴は、オンラインRLのプロセスを通じて、モデル自身が入力クエリと応答に基づいて適応的に原則（評価基準）と批判を生成する能力を育成する点にあります。

SPCTは2段階の学習プロセスで構成されています：

  1. 段階1: リジェクティブファインチューニング (RFT)
  2. 目的：事前学習済みLLMが多様な入力タイプに対して正しい形式で原則と批判を生成できるよう適応させる

  3. 方法：予測スコアがグラウンドトゥルースの報酬と一致しない軌跡を拒否し、残った「正しい」軌跡でモデルをファインチューニング

  4. 段階2: ルールベースのオンライン強化学習 (RL)

  5. 目的：効果的な推論時スケーリングを可能にするスケーラブルな報酬生成行動を促進
  6. 方法：GRPO (Generative Reward Policy Optimization)のフレームワークを活用し、GRMが生成した原則・批判・予測スコアをルールベースの報酬関数で評価
  • in ai, openai, gpt, llm
  • このページは約10分で読めます

GPT-4.1：開発者向け新時代の大規模言語モデル

はじめに

2025年4月14日、OpenAIは開発者向けに特化した新しい大規模言語モデル（LLM）群を発表しました。GPT-4.1、GPT-4.1 mini、GPT-4.1 nano の3つのモデルがAPI経由で利用可能になり、開発者のユースケース、特にコーディング、指示追従、関数呼び出しの領域で、既存のGPT-4oモデルを大幅に上回る性能を実現しています。

注目すべき特徴として、これら3モデル全てが最大100万トークンという広大なコンテキストウィンドウをサポートし、改善された長文脈理解能力によって、そのコンテキストをより効果的に活用できるようになりました。

このブログでは、GPT-4.1モデルファミリーの技術的特徴、性能改善、そして開発者がこれらのモデルをどのように活用できるかについて詳しく見ていきましょう。

GPT-4.1モデルファミリーの概要

OpenAIは異なるユースケースとリソース要件に対応するため、3つの異なるモデルを提供しています：

モデル名 特徴・用途 入出力 コンテキスト長 最大出力トークン数 知識カットオフ 価格（100万トークンあたり） 備考
GPT-4.1 最も高性能。複雑なタスク向け 入力:テキスト・画像
出力:テキスト		 1,047,576トークン 32,768トークン 2024年5〜6月 入力:$2.00
出力:$8.00		 –
GPT-4.1 mini 知能・速度・コストのバランスが良好
「小型モデルの性能における大きな飛躍」
一部ベンチマークでGPT-4oを超える(確認が必要)		 入力:テキスト・画像
出力:テキスト		 1,047,576トークン 32,768トークン 2024年5〜6月 入力:$0.40
出力:$1.60		 レイテンシ約半分、コスト大幅削減
GPT-4.1 nano 最速・最安モデル
軽量タスクや応答性の高いエージェントに最適		 入力:テキスト・画像
出力:テキスト		 1,047,576トークン 32,768トークン 2024年5月31日 入力:$0.10
出力:$0.40		 分類、補完、高頻度利用に最適

これらのモデルの特筆すべき点は、最も安価なnanoモデルを含む全モデルが100万トークンという広大なコンテキストウィンドウをサポートしていることです。これにより、従来プレミアム機能だった大規模コンテキスト処理が、より幅広いアプリケーションで利用可能になります。

魅力的なインフォグラフィックを作る方法

情報過多の時代に、複数の資料から重要な情報を抽出し、一目で理解できる形に整理することは、とても価値のあるスキルです。本記事では、関連する複数の資料からインフォグラフィックを作成するための実践的な7つのステップをご紹介します。

なぜインフォグラフィックが重要なのか？

現代社会では、特定のトピックについて複数のソースから情報を統合し理解することは、大きな課題となっています。日々大量の情報が流れ込む中で、関連情報を読み比べ全体像を把握するには相当な時間と労力が必要です。

インフォグラフィックはこの課題に対する効果的な解決策です。複雑な資料を視覚的に整理し、迅速かつ効果的に伝達できる強力なツールなのです。実際、質の高いインフォグラフィックはテキストのみの情報と比較して30倍も読まれやすいというデータもあります。

それでは、複数の資料から効果的なインフォグラフィックを作成する方法を見ていきましょう。

Claudeの「Think」ツール：AIの思考力を強化する革新的アプローチ

はじめに：AIが「考える」ということ

近年、ClaudeのようなAIアシスタントは驚くべき能力を示していますが、複雑な問題に直面すると、まだ課題があります。特に複数のツールを連携させたり、段階的な計画を立てたりする場合、AIは人間のように「立ち止まって考える」ことが苦手でした。

Anthropic社が開発した「Think」ツールは、この問題に対する革新的な解決策です。このブログでは、AIが「考える」ための新しいアプローチについて探ってみましょう。

AIが直面していた課題：なぜ「考える」ことが難しかったのか

従来のAIモデルは、以下のような課題に直面していました：

  • 複雑な指示の誤解釈 - 「データを取得した後に分析して」という指示でも、順序を間違えることがありました
  • 不適切なツール選択 - 必要な前提条件を考慮せずに、急いでツールを呼び出してエラーを引き起こす
  • 複数ステップの計画が困難 - あるツールの出力を次のツールの入力にするような連携が苦手
  • エラーの連鎖 - 初期のミスがプロセス全体を頓挫させてしまう

つまり、AIは「計画立案と状態管理」が苦手だったのです。人間なら当たり前に行う「ちょっと立ち止まって考える」というステップがなかったのです。

  • in ai, openai, gpt, llm
  • このページは約10分で読めます

GPT-4.5徹底解説：OpenAIの最新会話型AIの実力と未来

1. 序論：GPT-4.5の登場 - OpenAIの新たな会話型AIの幕開け

1.1 発表：GPT-4.5の登場

2025年2月27日から28日にかけて、OpenAIは最新の大規模言語モデル（LLM）「GPT-4.5」を発表しました。このモデルは当初「リサーチプレビュー」として公開され、その能力と限界を探る段階に位置づけられています。OpenAIはGPT-4.5を「これまでで最大かつ最も知識豊富なチャット向けモデル」と位置づけ、特にその会話能力の高さを強調しています。

1.2 GPT-4.5の定義：期待の先にあるもの

OpenAIの公式な定義によれば、GPT-4.5は事前学習と事後学習のスケーリングを進化させたモデルです。特に、教師なし学習(Unsupervised Learning) を大規模にスケールアップさせることで、明示的な段階的推論を経ずに、パターン認識能力、関連性を見出す能力、そして創造的な洞察を生み出す能力を向上させています。

主な目標： - より広範な知識ベースの提供 - ユーザーの意図のより深い理解 - 向上した「EQ（心の知能指数）」 - ハルシネーション（誤った情報の生成）の低減 - より自然な対話の実現

1.3 戦略的位置づけ：GPT-4.5はどこへ向かうのか

GPT-4.5は、先行モデルであるGPT-4oの基盤の上に構築されていますが、そのアプローチは異なります。特に、その高額なコスト設定を考慮すると、GPT-4oの直接的な代替となることは意図されていません。

さらに、GPT-4.5はOpenAIの「oシリーズ」（o1, o3-miniなど）とも区別されます。oシリーズがSTEM（科学・技術・工学・数学）分野や複雑な段階的推論（Chain-of-Thought）に最適化されているのに対し、GPT-4.5はより汎用的で、会話や感情的知性（EQ）に重点を置いたモデルとして位置づけられています。開発コードネーム「Orion」としても知られています。

この明確な差別化は、OpenAIが単一の「最高の」モデルを目指すのではなく、異なるAIパラダイムを探求し、特定の能力や市場セグメントをターゲットにした戦略的多様化を進めている可能性を示唆しています。