Skip to content

Commit 6432b15

Browse files
committed
update test case
1 parent 9be5245 commit 6432b15

File tree

4 files changed

+1
-27
lines changed

4 files changed

+1
-27
lines changed

eval/prompts/evaluate_error_message.md

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -44,6 +44,6 @@
4444
"accuracy": 0.9,
4545
"fixability": 0.7,
4646
"contextual_fit": 0.8,
47-
"reasoning": "評価の理由を簡潔に説明"
47+
"reasoning": "評価の理由を日本語で簡潔に説明"
4848
}
4949
```

eval/scripts/generate-dataset.mjs

Lines changed: 0 additions & 5 deletions
Original file line numberDiff line numberDiff line change
@@ -25,13 +25,8 @@ const dataset = results.invalid.map((testCase, index) => {
2525
// エラーメッセージを取得
2626
const errorMessage = testCase.errors[0]?.message || "";
2727

28-
// 重複している助詞を抽出(メッセージから)
29-
const particleMatch = errorMessage.match(/ "([^"]+)" /);
30-
const particle = particleMatch ? particleMatch[1] : "";
31-
3228
return {
3329
text: testCase.text,
34-
particle: particle,
3530
errorMessage: errorMessage,
3631
options: testCase.options || {},
3732
caseId: `invalid-${index + 1}`

eval/tests/doubled_joshi_cases.json

Lines changed: 0 additions & 16 deletions
Original file line numberDiff line numberDiff line change
@@ -2,7 +2,6 @@
22
{
33
"vars": {
44
"text": "私は彼は好きだ",
5-
"particle": "",
65
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 私\"\"\n- 彼\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
76
"options": {},
87
"caseId": "invalid-1"
@@ -11,7 +10,6 @@
1110
{
1211
"vars": {
1312
"text": "あなたは「私は彼は好きだ」と言った。",
14-
"particle": "",
1513
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 私\"\"\n- 彼\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
1614
"options": {},
1715
"caseId": "invalid-2"
@@ -20,7 +18,6 @@
2018
{
2119
"vars": {
2220
"text": "材料不足で代替素材で製品を作った。",
23-
"particle": "",
2421
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 不足\"\"\n- 素材\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
2522
"options": {},
2623
"caseId": "invalid-3"
@@ -29,7 +26,6 @@
2926
{
3027
"vars": {
3128
"text": "クォートで囲むことで文字列を作成できる点は、他の文字列リテラルと同じです。",
32-
"particle": "",
3329
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- クォート\"\"\n- こと\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
3430
"options": {},
3531
"caseId": "invalid-4"
@@ -38,7 +34,6 @@
3834
{
3935
"vars": {
4036
"text": "列車事故でバスで振り替え輸送を行った。 ",
41-
"particle": "",
4237
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 事故\"\"\n- バス\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
4338
"options": {},
4439
"caseId": "invalid-5"
@@ -47,7 +42,6 @@
4742
{
4843
"vars": {
4944
"text": "洋服をドラム式洗濯機でお湯と洗剤で洗い、乾燥機で素早く乾燥させる。",
50-
"particle": "",
5145
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 機\"\"\n- 洗剤\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
5246
"options": {
5347
"min_interval": 2
@@ -58,7 +52,6 @@
5852
{
5953
"vars": {
6054
"text": "法律案は十三日の衆議院本会議で賛成多数で可決され、参議院に送付されます",
61-
"particle": "",
6255
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 会議\"\"\n- 多数\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
6356
"options": {},
6457
"caseId": "invalid-7"
@@ -67,7 +60,6 @@
6760
{
6861
"vars": {
6962
"text": "彼女は困り切った表情で、小声で尋ねた。",
70-
"particle": "",
7163
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 表情\"\"\n- 小声\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
7264
"options": {
7365
"strict": true
@@ -78,7 +70,6 @@
7870
{
7971
"vars": {
8072
"text": "白装束で重力のない足どりでやってくる",
81-
"particle": "",
8273
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 白装束\"\"\n- 足どり\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
8374
"options": {
8475
"min_interval": 2
@@ -89,7 +80,6 @@
8980
{
9081
"vars": {
9182
"text": "既存のコードの利用",
92-
"particle": "",
9383
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 既存\"\"\n- コード\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
9484
"options": {
9585
"strict": true
@@ -100,7 +90,6 @@
10090
{
10191
"vars": {
10292
"text": "これは`obj.method`は何をしているかを示します。",
103-
"particle": "",
10493
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- これ\"\"\n- `obj.method`\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
10594
"options": {},
10695
"caseId": "invalid-11"
@@ -109,7 +98,6 @@
10998
{
11099
"vars": {
111100
"text": "文字列にはそこには問題がある。",
112-
"particle": "には",
113101
"errorMessage": "一文に二回以上利用されている助詞 \"には\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 列\"には\"\n- そこ\"には\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
114102
"options": {},
115103
"caseId": "invalid-12"
@@ -118,7 +106,6 @@
118106
{
119107
"vars": {
120108
"text": "そこには問題があるかもしれないかもしれない。",
121-
"particle": "かも",
122109
"errorMessage": "一文に二回以上利用されている助詞 \"かも\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- ある\"かも\"\n- ない\"かも\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
123110
"options": {},
124111
"caseId": "invalid-13"
@@ -127,7 +114,6 @@
127114
{
128115
"vars": {
129116
"text": "今まで、サイトはNetlifyスライドはGitLab Pagesといった配信分けをしていたのですが、\n「 `/slides` にビルドしたスライドを置きたい」という動機のものと、こんな構成を検討しています。\n\n* 最初にtextlintで文法チェック\n* ドキュメントを別にビルドしてarticle化\n* 複数articleを束ねてFirebaseへデプロイ",
130-
"particle": "",
131117
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- サイト\"\"\n- スライド\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
132118
"options": {},
133119
"caseId": "invalid-14"
@@ -136,7 +122,6 @@
136122
{
137123
"vars": {
138124
"text": "これはペンです.これは鉛筆です.",
139-
"particle": "",
140125
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- これ\"\"\n- これ\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
141126
"options": {
142127
"separatorCharacters": [
@@ -149,7 +134,6 @@
149134
{
150135
"vars": {
151136
"text": "これがiPhone、これがAndroidです。",
152-
"particle": "",
153137
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- これ\"\"\n- これ\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
154138
"options": {
155139
"commaCharacters": []

eval/tests/doubled_joshi_cases_small.json

Lines changed: 0 additions & 5 deletions
Original file line numberDiff line numberDiff line change
@@ -2,7 +2,6 @@
22
{
33
"vars": {
44
"text": "私は彼は好きだ",
5-
"particle": "",
65
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 私\"\"\n- 彼\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
76
"options": {},
87
"caseId": "invalid-1"
@@ -11,7 +10,6 @@
1110
{
1211
"vars": {
1312
"text": "あなたは「私は彼は好きだ」と言った。",
14-
"particle": "",
1513
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 私\"\"\n- 彼\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
1614
"options": {},
1715
"caseId": "invalid-2"
@@ -20,7 +18,6 @@
2018
{
2119
"vars": {
2220
"text": "材料不足で代替素材で製品を作った。",
23-
"particle": "",
2421
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 不足\"\"\n- 素材\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
2522
"options": {},
2623
"caseId": "invalid-3"
@@ -29,7 +26,6 @@
2926
{
3027
"vars": {
3128
"text": "クォートで囲むことで文字列を作成できる点は、他の文字列リテラルと同じです。",
32-
"particle": "",
3329
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- クォート\"\"\n- こと\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
3430
"options": {},
3531
"caseId": "invalid-4"
@@ -38,7 +34,6 @@
3834
{
3935
"vars": {
4036
"text": "列車事故でバスで振り替え輸送を行った。 ",
41-
"particle": "",
4237
"errorMessage": "一文に二回以上利用されている助詞 \"\" がみつかりました。\n\n次の助詞が連続しているため、文を読みにくくしています。\n\n- 事故\"\"\n- バス\"\"\n\n同じ助詞を連続して利用しない、文の中で順番を入れ替える、文を分割するなどを検討してください。\n",
4338
"options": {},
4439
"caseId": "invalid-5"

0 commit comments

Comments
 (0)