このプロジェクトが役に立ったら、GitHubで⭐を付けてください！
Dingo は包括的な AI データ、モデル、アプリケーション品質評価ツールであり、機械学習エンジニア、データエンジニア、AI 研究者向けに設計されています。トレーニングデータ、ファインチューニングデータセット、本番 AI システムの品質を体系的に評価・改善するのを支援します。
本番グレードのデータ品質プラットフォームが必要ですか？Dingo SaaS エンタープライズ版をお試しください！
- 🌐 Web UI - ビジュアル評価インターフェース、コーディング不要
- 🔐 アクセス制御 - JWT + Google OAuth 2.0
- 📊 ビジュアルレポート - インタラクティブなチャート、トレンド分析、エクスポート機能
- 🔌 RESTful API - 既存システムとのシームレスな統合
審査時間：1-5営業日 | エンタープライズデータガバナンス、チームコラボレーションに最適
🎯 本番グレードの品質チェック - 事前学習データセットから RAG システムまで、AI に高品質なデータを提供
🗄️ マルチソースデータ統合 - ローカルファイル、SQL データベース（PostgreSQL/MySQL/SQLite）、HuggingFace データセット、S3 ストレージへのシームレスな接続
🔍 マルチフィールド評価 - 異なるフィールドに並行して異なる品質ルールを適用（例：isbn フィールドには ISBN 検証、title フィールドにはテキスト品質チェック）
🤖 RAG システム評価 - 5つの学術的裏付けのある指標で検索と生成品質を包括的に評価
🧠 LLM とルールのハイブリッド - 高速ヒューリスティックルール（30以上の組み込みルール）と LLM ベースの深度評価を組み合わせ
🚀 柔軟な実行 - ローカルで実行して迅速に反復、または Spark で数十億規模のデータセットにスケール
📊 豊富なレポート - GUI 可視化とフィールドレベルの洞察を備えた詳細な品質レポート
# コアパッケージ（ルール評価、LLM 評価、MCP サーバー）
pip install dingo-python
# 必要なデータソースサポートを選択してインストール
pip install dingo-python[sql] # + SQL データベース
pip install dingo-python[s3] # + AWS S3 ストレージ
pip install dingo-python[parquet] # + Parquet ファイルサポート
pip install dingo-python[huggingface] # + HuggingFace データセット
pip install dingo-python[excel] # + Excel ファイルサポート
# 全データソースサポートをインストール
pip install dingo-python[datasource]
# 全機能をインストール（データソース + Agent + オプションモデル）
pip install dingo-python[all]from dingo.config.input_args import EvaluatorLLMArgs
from dingo.io.input import Data
from dingo.model.llm.text_quality.llm_text_quality_v4 import LLMTextQualityV4
from dingo.model.rule.rule_common import RuleEnterAndSpace
data = Data(
data_id='123',
prompt="hello, introduce the world",
content="Hello! The world is a vast and diverse place, full of wonders, cultures, and incredible natural beauty."
)
def llm():
LLMTextQualityV4.dynamic_config = EvaluatorLLMArgs(
key='YOUR_API_KEY',
api_url='https://api.openai.com/v1/chat/completions',
model='gpt-4o',
)
res = LLMTextQualityV4.eval(data)
print(res)
def rule():
res = RuleEnterAndSpace().eval(data)
print(res)from dingo.config import InputArgs
from dingo.exec import Executor
# Hugging Faceからデータセットを評価
input_data = {
"input_path": "tatsu-lab/alpaca", # Hugging Faceからのデータセット
"dataset": {
"source": "hugging_face",
"format": "plaintext" # フォーマット: plaintext
},
"executor": {
"result_save": {
"bad": True # 評価結果を保存
}
},
"evaluator": [
{
"evals": [
{"name": "RuleColonEnd"},
{"name": "RuleSpecialCharacter"}
]
}
]
}
input_args = InputArgs(**input_data)
executor = Executor.exec_map["local"](input_args)
result = executor.execute()
print(result)python -m dingo.run.cli --input test/env/local_plaintext.jsonpython -m dingo.run.cli --input test/env/local_json.json評価後（result_save.bad=Trueで）、フロントエンドページが自動的に生成されます。手動でフロントエンドを開始するには：
python -m dingo.run.vsl --input output_directoryここでoutput_directoryはsummary.jsonファイルを含む評価結果が格納されているディレクトリです。
オンラインデモでDingoをお試しください: (Hugging Face)🤗
地元でDingoを試してみましょう：
cd app_gradio
python app.py
Google ColabノートブックでDingoをインタラクティブに体験してください：
Dingoには実験的なModel Context Protocol（MCP）サーバーが含まれています。サーバーの実行とCursorなどのクライアントとの統合の詳細については、専用のドキュメントをご覧ください：
Dingo MCPを素早く始められるよう、ビデオウォークスルーを作成しました：
mcp_demo.mp4
このビデオでは、Dingo MCPサーバーをCursorと一緒に使用する方法をステップバイステップで説明しています。
1回の実行で異なるフィールドに異なる品質チェックを適用：
"evaluator": [
{"fields": {"content": "isbn"}, "evals": [{"name": "RuleIsbn"}]},
{"fields": {"content": "title"}, "evals": [{"name": "RuleAbnormalChar"}]},
{"fields": {"content": "description"}, "evals": [{"name": "LLMTextQualityV5"}]}
]重要性：各フィールドごとに別々のスクリプトを書かずに構造化データ（データベーステーブルなど）を評価できます。
SQL データソースは SQLAlchemy のサーバーサイドカーソルを使用：
# メモリオーバーフローなしで数十億行を処理
for data in dataset.get_data(): # 1行ずつyield
result = evaluator.eval(data)重要性：中間ファイルにエクスポートすることなく本番データベースを処理できます。
RAG 評価は異なるフィールド組み合わせ間のコンテキストリークを防止：
outputs/
├── user_input,response,retrieved_contexts/ # Faithfulness グループ
└── user_input,response/ # Answer Relevancy グループ
重要性：複数のフィールド組み合わせを評価する際のメトリクス計算の正確性を保証。
高速ルール（100% カバレッジ）とサンプリング LLM チェック（10% カバレッジ）を組み合わせ：
"evals": [
{"name": "RuleAbnormalChar"}, # 高速、全データで実行
{"name": "LLMTextQualityV5"} # コスト高、必要に応じてサンプリング
]重要性：本番規模の評価でコストとカバレッジのバランスを取る。
カスタムルール、プロンプト、モデルのための明確なプラグインアーキテクチャ：
@Model.rule_register('QUALITY_BAD_CUSTOM', ['default'])
class MyCustomRule(BaseRule):
@classmethod
def eval(cls, input_data: Data) -> EvalDetail:
# 例：コンテンツが空かチェック
if not input_data.content:
return EvalDetail(
metric=cls.__name__,
status=True, # 問題を発見
label=[f'{cls.metric_type}.{cls.__name__}'],
reason=["コンテンツが空です"]
)
return EvalDetail(
metric=cls.__name__,
status=False, # 問題なし
label=['QUALITY_GOOD']
)重要性：コードベースをフォークせずにドメイン固有のニーズに適応。
Dingo は 70以上の評価メトリクスを提供し、複数の次元にわたってルールベースの速度と LLM ベースの深度を組み合わせます。
| カテゴリ | 例 | 使用例 |
|---|---|---|
| 事前学習テキスト品質 | 完全性、有効性、類似性、セキュリティ | LLM 事前学習データフィルタリング |
| SFT データ品質 | 正直、有用、無害 (3H) | 指示ファインチューニングデータ |
| RAG 評価 | 忠実度、コンテキスト精度、答え関連性 | RAG システム評価 |
| 幻覚検出 | HHEM-2.1-Open、事実性チェック | 本番 AI 信頼性 |
| 分類 | トピック分類、コンテンツラベリング | データ整理 |
| マルチモーダル | 画像テキスト関連性、VLM 品質 | ビジュアル言語データ |
| セキュリティ | PII 検出、Perspective API 毒性 | プライバシーと安全性 |
📊 完全なメトリクス文書を表示 →
📖 RAG 評価ガイド →
🔍 幻覚検出ガイド →
✅ 事実性評価ガイド →
大部分のメトリクスは学術研究に裏付けられており、科学的厳密性を確保しています。
llm_config = {
"model": "gpt-4o",
"key": "YOUR_API_KEY",
"api_url": "https://api.openai.com/v1/chat/completions"
}
input_data = {
"evaluator": [
{
"fields": {"content": "content"},
"evals": [
{"name": "RuleAbnormalChar"}, # ルールベース（高速）
{"name": "LLMTextQualityV5", "config": llm_config} # LLMベース（深度）
]
}
]
}カスタマイズ：すべてのプロンプトは dingo/model/llm/ ディレクトリに定義されています（カテゴリ別に整理：text_quality/、rag/、hhh/ など）。ドメイン固有のニーズに合わせて拡張または変更できます。
多様なデータソース - データがある場所に接続
✅ ローカルファイル：JSONL、CSV、TXT、Parquet
✅ SQL データベース：PostgreSQL、MySQL、SQLite、Oracle、SQL Server（ストリーミング処理対応）
✅ クラウドストレージ：S3 および S3 互換ストレージ
✅ ML プラットフォーム：HuggingFace データセットの直接統合
エンタープライズ対応 SQL サポート - 本番データベース統合
✅ 数十億規模のデータセットのメモリ効率的なストリーミング
✅ 接続プールと自動リソースクリーンアップ
✅ 複雑な SQL クエリ（JOIN、WHERE、集計）
✅ SQLAlchemy による複数の方言サポート
マルチフィールド品質チェック - 異なるフィールドに異なるルール
✅ 並列評価パイプライン（例：ISBN 検証 + テキスト品質を同時実行）
✅ フィールドエイリアスとネストされたフィールド抽出（user.profile.name）
✅ フィールドごとに独立した結果レポート
✅ 柔軟なデータ変換のための ETL パイプラインアーキテクチャ
5つの学術的裏付けのある指標 - RAGAS、DeepEval、TruLens 研究に基づく
✅ 忠実度（Faithfulness）：答え-コンテキストの一貫性（幻覚検出）
✅ 答え関連性（Answer Relevancy）：答え-クエリの整合性
✅ コンテキスト精度（Context Precision）：検索精度
✅ コンテキスト再現率（Context Recall）：検索再現率
✅ コンテキスト関連性（Context Relevancy）：コンテキスト-クエリ関連性
包括的なレポート - 自動集計統計
✅ 各メトリクスの平均、最小、最大、標準偏差
✅ フィールド別にグループ化された結果
✅ バッチおよび単一評価モード
ルールベース - 高速、決定論的、コスト効率
✅ 30以上の組み込みルール（テキスト品質、フォーマット、PII 検出）
✅ 正規表現、ヒューリスティック、統計チェック
✅ カスタムルール登録
LLM ベース - 深い意味理解
✅ OpenAI（GPT-4o、GPT-3.5）、DeepSeek、Kimi
✅ ローカルモデル（Llama3、Qwen）
✅ ビジョン言語モデル（InternVL、Gemini）
✅ カスタムプロンプト登録
拡張可能なアーキテクチャ
✅ プラグインベースのルール/プロンプト/モデル登録
✅ 明確な関心の分離（エージェント、ツール、オーケストレーション）
✅ ドメイン固有のカスタマイズ
複数のインターフェース
✅ 迅速なチェックのための CLI
✅ 統合のための Python SDK
✅ IDE 用 MCP（モデルコンテキストプロトコル）サーバー（Cursor など）
スケーラブルな実行
✅ 迅速な反復のためのローカル実行
✅ 分散処理のための Spark 実行
✅ 設定可能な並行性とバッチ処理
データソース
✅ ローカルファイル：JSONL、CSV、TXT、Parquet フォーマット
✅ Hugging Face：HF データセットハブとの直接統合
✅ S3 ストレージ：AWS S3 および S3 互換ストレージ
✅ SQL データベース：PostgreSQL、MySQL、SQLite、Oracle、SQL Server（大規模データのストリーミング処理）
モダリティ
✅ テキスト（チャット、ドキュメント、コード）
✅ 画像（VLM サポート）
✅ マルチモーダル（テキスト+画像の一貫性）
多層レポート
✅ 全体スコア付き Summary JSON
✅ フィールドレベルの内訳
✅ ルール違反ごとの詳細情報
✅ タイプと名前の分布
GUI 可視化
✅ 組み込み Web インターフェース
✅ インタラクティブなデータ探索
✅ 異常追跡
メトリクス集計
✅ 自動統計（avg、min、max、std_dev）
✅ フィールド別にグループ化されたメトリクス
✅ 全体品質スコア
Dingo はドメイン固有のニーズに対応する柔軟な拡張メカニズムを提供します。
例：
from dingo.model import Model
from dingo.model.rule.base import BaseRule
from dingo.io import Data
from dingo.io.output.eval_detail import EvalDetail
@Model.rule_register('QUALITY_BAD_CUSTOM', ['default'])
class DomainSpecificRule(BaseRule):
"""ドメイン固有のパターンをチェック"""
@classmethod
def eval(cls, input_data: Data) -> EvalDetail:
text = input_data.content
# あなたのカスタムロジック
is_valid = your_validation_logic(text)
return EvalDetail(
metric=cls.__name__,
status=not is_valid, # False = 良好, True = 問題あり
label=['QUALITY_GOOD' if is_valid else 'QUALITY_BAD_CUSTOM'],
reason=["検証の詳細..."]
)from dingo.model import Model
from dingo.model.llm.base_openai import BaseOpenAI
@Model.llm_register('my_custom_model')
class MyCustomModel(BaseOpenAI):
# ここにカスタム実装
pass詳細な例については以下をご覧ください：
from dingo.config import InputArgs
from dingo.exec import Executor
input_args = InputArgs(**input_data)
executor = Executor.exec_map["local"](input_args)
result = executor.execute()
# 結果を取得
summary = executor.get_summary() # 全体的な評価サマリー
bad_data = executor.get_bad_info_list() # 問題のあるデータのリスト
good_data = executor.get_good_info_list() # 高品質データのリストfrom dingo.config import InputArgs
from dingo.exec import Executor
from pyspark.sql import SparkSession
# Sparkを初期化
spark = SparkSession.builder.appName("Dingo").getOrCreate()
spark_rdd = spark.sparkContext.parallelize([...]) # Dataオブジェクトとしてのデータ
input_data = {
"executor": {
"result_save": {"bad": True}
},
"evaluator": [
{
"fields": {"content": "content"},
"evals": [
{"name": "RuleColonEnd"},
{"name": "RuleSpecialCharacter"}
]
}
]
}
input_args = InputArgs(**input_data)
executor = Executor.exec_map["spark"](input_args, spark_session=spark, spark_rdd=spark_rdd)
result = executor.execute()評価後、Dingoは以下を生成します：
- サマリーレポート (
summary.json): 全体的なメトリクスとスコア - 詳細レポート: 各ルール違反の具体的な問題
レポートの説明：
- score:
num_good/total - type_ratio: タイプの数 / 総数, 例:
QUALITY_BAD_COMPLETENESS/total
サマリー例：
{
"task_id": "d6c922ec-981c-11ef-b723-7c10c9512fac",
"task_name": "dingo",
"eval_group": "default",
"input_path": "test/data/test_local_jsonl.jsonl",
"output_path": "outputs/d6c921ac-981c-11ef-b723-7c10c9512fac",
"create_time": "20241101_144510",
"score": 50.0,
"num_good": 1,
"num_bad": 1,
"total": 2,
"type_ratio": {
"content": {
"QUALITY_BAD_COMPLETENESS.RuleColonEnd": 0.5,
"QUALITY_BAD_RELEVANCE.RuleSpecialCharacter": 0.5
}
}
}近日公開予定の機能：
- Agent-as-a-Judge - 多ラウンド反復評価
- SaaS プラットフォーム - API アクセスとダッシュボードを備えたホスト型評価サービス
- 音声・動画モダリティ - テキスト/画像を超えた拡張
- 多様性メトリクス - 統計的多様性評価
- リアルタイム監視 - 本番パイプラインでの継続的品質チェック
現在の組み込み検出ルールとモデル手法は、一般的なデータ品質問題に焦点を当てています。専門的な評価ニーズについては、検出ルールのカスタマイズを推奨します。
Dingoの改善と強化に努力してくださったすべての貢献者に感謝いたします。プロジェクトへの貢献に関するガイダンスについては、貢献ガイドをご参照ください。
このプロジェクトはApache 2.0オープンソースライセンスを使用しています。
このプロジェクトは言語検出を含む一部の機能でfasttextを使用しています。fasttextはMITライセンスの下でライセンスされており、これは当社のApache 2.0ライセンスと互換性があり、様々な使用シナリオに柔軟性を提供します。
このプロジェクトが有用だと思われる場合は、当社のツールの引用をご検討ください：
@misc{dingo,
title={Dingo: A Comprehensive AI Data Quality Evaluation Tool for Large Models},
author={Dingo Contributors},
howpublished={\url{https://github.com/MigoXLab/dingo}},
year={2024}
}