Add 4 new invariant tests: zh parenthetical, ru parenthetical, country fill, state fill

test/test_invariants.py

@@ -19,6 +19,9 @@ Verifies:
 - subdiv (when present) is a valid code from cterdam/iso_3166-2
 - no whitespace in name fields
 - name_en and name_ru start uppercase
+- name_zh has no state/country qualifier in parentheses
+- name_ru has no admin/region qualifier in parentheses
+- name_zh is not a country or US state name (fill errors)
 """
 
 import re
@@ -168,6 +171,80 @@ def test_no_typographic_quotes_in_ru(dataset):
 
 _AIRPORT_ZH = re.compile(r'機場|机場|机场|空港|航空')
 
+# State/country qualifier words that must not appear in name_zh parentheticals
+_ZH_QUALIFIER_WORDS = [
+    # US states
+    '阿拉巴馬州', '亞拉巴馬州', '阿拉斯加州', '亞利桑那州', '阿肯色州',
+    '加利福尼亞州', '加州', '科羅拉多州', '康涅狄格州', '特拉華州',
+    '佛羅裡達州', '佛羅里達州', '喬治亞州', '夏威夷州', '愛達荷州',
+    '伊利諾伊州', '伊利諾州', '印第安納州', '印第安那州', '愛荷華州',
+    '堪薩斯州', '肯塔基州', '路易斯安那州', '路易斯安納州', '緬因州',
+    '馬裡蘭州', '馬里蘭州', '馬薩諸塞州', '麻薩諸塞州', '密歇根州',
+    '密西根州', '明尼蘇達州', '密西西比州', '密蘇裡州', '密蘇里州',
+    '蒙大拿州', '內布拉斯加州', '內華達州', '新罕布什爾州', '新澤西州',
+    '新墨西哥州', '紐約州', '北卡羅來納州', '北卡羅萊納州', '北達科他州',
+    '俄亥俄州', '俄克拉荷馬州', '俄勒岡州', '奧勒岡州', '賓夕法尼亞州',
+    '羅德島州', '羅得島州', '南卡羅來納州', '南卡羅萊納州', '南達科他州',
+    '田納西州', '德克薩斯州', '德州', '猶他州', '佛蒙特州', '弗吉尼亞州',
+    '維吉尼亞州', '華盛頓州', '西弗吉尼亞州', '威斯康星州', '懷俄明州',
+    # Canadian provinces
+    '不列顛哥倫比亞', '阿爾伯塔省', '艾伯塔省', '薩斯喀徹溫', '曼尼托巴',
+    '安大略省', '魁北克', '紐芬蘭-拉布拉多', '紐芬蘭', '新不倫瑞克省',
+    '新斯科舍', '愛德華王子島', '育空', '西北地區', '努納武特',
+    # Countries
+    '加拿大', '美國', '巴西', '墨西哥', '阿根廷', '巴拉圭', '哥倫比亞',
+    '土耳其', '安圭拉', '多明尼加', '哥斯大黎加', '巴哈馬', '厄瓜多',
+    '塔斯馬尼亞州', '俄羅斯', '法國', '德國', '英國', '蘇格蘭', '澳大利亞',
+    '美屬維爾京群島', '挪威', '中國', '日本', '韓國', '印度', '伊朗',
+    # Russian regions
+    '漢特-曼西自治區',
+]
+_ZH_QUAL_RE = re.compile(
+    r'[（(](?:[^）)]*?(?:' +
+    '|'.join(re.escape(w) for w in _ZH_QUALIFIER_WORDS) +
+    r')[^）)]*?)[）)]'
+)
+
+# Admin/region qualifiers that must not appear in name_ru parentheticals
+_RU_QUAL_RE = re.compile(
+    r'\s*\((?:'
+    r'Аляска|Канзас|Нью-Йорк|Флорида|Канада|Сеара'
+    r'|Шотландия|Северная Каролина|Колумбия|Айова'
+    r'|Британская Колумбия|Ньюфаундленд и Лабрадор'
+    r'|провинция Антике|Якутия'
+    r'|штат Айова|шт\. Айова|г\. Айова'
+    r'|остров|деревня|город|село'
+    r'|округ|провинция|область'
+    r')[^)]*?\)$'
+)
+
+_COUNTRY_ZH = {
+    '南非', '緬甸', '伊朗', '泰國', '阿曼', '約旦', '加彭', '瑞典',
+    '馬達加斯加', '吉里巴斯', '馬紹爾群島', '巴布亞紐幾內亞', '巴布亞',
+    '索羅門群島', '斐濟', '衣索比亞', '奈米比亞', '剛果民主共和國',
+    '肯亞', '肯尼亞', '巴基斯坦', '俄羅斯', '加拿大', '美國', '美国',
+    '澳大利亞', '澳洲', '英國', '法國', '德國', '中國', '印度',
+    '意大利', '義大利', '西班牙', '希臘', '土耳其', '埃及',
+    '尼日利亞', '墨西哥', '巴西', '阿根廷', '智利', '波蘭',
+    '比利時', '荷蘭', '丹麥', '挪威', '芬蘭', '韓國', '日本',
+    '新西蘭', '紐西蘭', '越南', '印尼', '印度尼西亞', '馬來西亞',
+    '菲律賓',
+}
+
+_STATE_ZH = {
+    '阿拉巴馬州', '阿拉斯加州', '亞利桑那州', '阿肯色州', '加利福尼亞州',
+    '科羅拉多州', '康涅狄格州', '特拉華州', '佛羅里達州', '喬治亞州',
+    '佐治亞州', '夏威夷州', '愛達荷州', '伊利諾伊州', '印第安納州',
+    '愛荷華州', '堪薩斯州', '肯塔基州', '路易斯安那州', '緬因州',
+    '馬裡蘭州', '馬里蘭州', '馬薩諸塞州', '密歇根州', '明尼蘇達州',
+    '密西西比州', '密蘇里州', '蒙大拿州', '內布拉斯加州', '內華達州',
+    '新罕布什爾州', '新澤西州', '新墨西哥州', '紐約州', '北卡羅來納州',
+    '北達科他州', '俄亥俄州', '俄克拉荷馬州', '俄勒岡州', '賓夕法尼亞州',
+    '羅得島州', '南卡羅來納州', '南達科他州', '田納西州', '德克薩斯州',
+    '猶他州', '佛蒙特州', '弗吉尼亞州', '��盛頓州', '西弗吉尼亞州',
+    '威斯康星州', '懷俄明州',
+}
+
 
 def test_no_airport_words_in_zh(dataset):
     """name_zh must not contain airport/aviation words like 機場 or 航空."""
@@ -553,3 +630,31 @@ def test_no_ideographic_space(dataset):
                 if '　' in v:
                     bad.append((e['code'], field))
     assert bad == [], f"Ideographic space in names: {bad[:10]}"
+
+
+def test_name_zh_no_state_country_parenthetical(dataset):
+    """name_zh must not contain state/country qualifiers in parentheses."""
+    bad = [(e['code'], e['name_zh']) for e in dataset
+           if e.get('name_zh') and _ZH_QUAL_RE.search(e['name_zh'])]
+    assert bad == [], f"name_zh with state/country parenthetical: {bad[:10]}"
+
+
+def test_name_ru_no_admin_parenthetical(dataset):
+    """name_ru must not contain admin/region qualifiers in parentheses."""
+    bad = [(e['code'], e['name_ru']) for e in dataset
+           if e.get('name_ru') and _RU_QUAL_RE.search(e['name_ru'])]
+    assert bad == [], f"name_ru with admin parenthetical: {bad[:10]}"
+
+
+def test_name_zh_not_country_name(dataset):
+    """name_zh must not be a bare country name (indicates country-fill error)."""
+    bad = [(e['code'], e['name_zh'], e.get('name_en')) for e in dataset
+           if e.get('name_zh') in _COUNTRY_ZH]
+    assert bad == [], f"name_zh is a country name: {bad[:10]}"
+
+
+def test_name_zh_not_us_state_name(dataset):
+    """name_zh must not be a US state name (indicates state-fill error)."""
+    bad = [(e['code'], e['name_zh'], e.get('name_en')) for e in dataset
+           if e.get('name_zh') in _STATE_ZH]
+    assert bad == [], f"name_zh is a US state name: {bad[:10]}"