當前，人和大模型的業務場景落地已經進入深水區。近期，數字政通技術團隊對Kimi在長文本的場景下做了大量的測試，實驗證明Kimi在卷宗評查（執法業務），熱線分析（一網統管業務）等長文本的場景中，有著突出的表現，未來在更大規模的應用場景中具有廣泛深入的合作前景。
一、Kimi助力人和大模型打造長文本分析場景
目前，人和大模型已經完成基于Kimi的Moonshot開放平臺提供的API調用moonshot-v1-8k、moonshot-v1-32k、moonshot-v1-128k三個不同參數規模的模型能力。Kimi具備強大的長文本總結與生成能力、聯網搜索與輔助信息搜索能力、數據處理與表格分析能力。在城市治理行業中，可助力以下應用場景：
長文總結與生成：通過簡單的提問或文件上傳，Kimi能夠快速提煉大量長文本的核心內容，理解文本，生成文本摘要。在執法案件評查場景中，通過大模型超長無損上下文能力解析司法部門制定的行政案件評查標準，以及從立案、調查、取證、告知、聽證程序、審查決定、送達執行、結案全流程的卷宗、筆錄、審批文書、行政處罰告知書、聽證告知書、行政處罰決定書、結案報告等相關材料，自動化完成行政處罰案件評查工作，單批次最大支持1000個文件的快速解析，可極大提高案卷評查工作效率。
數據處理與報表分析：Kimi能夠接收用戶輸入的長文本文件，自動將復雜的數據整理成清晰易讀的表格形式，有助于用戶進行快速的數據分析和決策。在民生訴求智能報表報告應用場景中，通過導入民生訴求工單數據，對工單總體情況、問題來源、案件類型、事項類型、高發問題、總結與建議等進行智能分析，自動化生成智能報表。
聯網搜索和輔助信息搜集：Kimi可以聯網搜索最新信息，也支持查找更多細分領域的專業知識，快速構建一套行業知識體系。在民生訴求、法治政府、城市管理等業務中，可沉淀豐富的項目案例和業務經驗，打通各個業務線的數據，進行關聯分析和挖掘，并成為搜索、問答、推薦等功能與知識庫應用。智能知識庫有豐富的應用場景，例如機器人客服、人工客服工具（檢索、推薦）、法律法規知識庫等。
二、人和大模型技術研究方向
人和大模型致力于針對城市治理行業中的確定性問題提供解決方案。它基于一個通用、解耦的大模型底座，通過融入行業經驗和專業知識進行微調，以構建更貼合行業需求的應用新模式。為了確保城市治理行業場景應用能夠有效落地，人和大模型在以下幾個關鍵技術領域進行了深入探索和優化：
知識增強：通過構建本地知識庫和集成互聯網搜索功能，增強大模型獲取廣泛領域知識的能力。確保在對話中能夠提供準確、全面的信息，以支持復雜的城市治理問題。
大模型Agents：模仿人類行為的大模型應用，可以根據模型輸出通過prompts指導Agents使用外部工具（如計算器、搜索API、數據庫等），實現從外部獲取輸入并生成所需輸出的復雜任務。
大模型加速技術：采用緩存機制，通過嵌入算法和向量存儲優化查詢響應時間；VLLM通過PagedAttention算法進行內存管理和批處理請求，以及針對CUDA內核的優化，實現并行推理加速。
強化學習技術：結合RLHF技術，即通過人類反饋的強化學習，提升模型性能和準確度；強化學習使得大模型能夠適應新環境，快速學習新知識，并在多個領域中進行有效的遷移學習和泛化。
多模態大模型：利用圖像生成文本描述，使模型能夠理解和表達圖像內容，在城市治理視頻、圖片應用場景提高算法理解能力。
通過這些技術的整合和優化，人和大模型旨在為城市治理行業提供更高效、智能的解決方案，推動行業的數字化轉型和升級。同時，為提高大模型算力適應性，人和大模型已完成基于昇騰GPU等國產化環境兼容適配。
三、人和大模型應用場景實踐進展
自2023年11月數字政通發布城市治理行業人和大模型以來，持續投入在大模型應用技術的研究和城市治理場景應用實踐的探索。在發布會上，我們深入分析了不同城市治理場景當中各類參與者的痛點及核心訴求，秉承“以人為本，賦能城市治理參與者”的發展理念，推出了民生訴求、法治政府、基層治理和城市管理四大應用場景，致力于打造符合行業實際需求的場景應用新范式，賦能智慧城市高質量發展。
人和大模型專注于分析業務痛點、沉淀行業數據、通過模型微調提升大模型專業能力，推動場景落地。因此，我們構建了一套靈活解耦的大模型基礎底座，開放兼容各類開源或者商用的通用大模型（ChatGLM、通義千問、星火、Kimi等），以集各家大模型優勢，針對性解決特定場景問題。
發布會后，各地政府城市治理領域業務專家和政通技術團隊進行了多輪深入的溝通交流，致力于人和大模型在城市治理場景中的落地，其中不乏城市管理業務、社會治理業務、綜合執法業務、一網統管業務、城市生命線業務等等。各個場景均有較大進展。
（1）大模型賦能民生訴求智能化應用場景
開展民生訴求工作是政府傾聽民眾聲音、打造“服務型”政府的重要手段。然而，如何有效解決“市民訴求雜、人力資源缺、運營成本高、數據分析弱、領導關注頻”等問題，成為了提升民生訴求工作成效、優化市民服務水平的關鍵。基于人和大模型打造的智能客服、智能知識庫、話務輔助、智能分類、智能分撥、智能打標、智能回訪等場景先后在多個項目落地，從多種角度提煉分析可用于城市治理決策的數據，實現民生訴求的態勢全面感知、趨勢智能預判。
智能客服：基于海量數據，根據用戶需求場景生成精準回復，準確理解用戶的意圖并生成工單。
智能知識庫：與傳統知識庫相比，智能知識庫利用人工智能和大數據技術，對海量數據進行處理、分析和挖掘，提供智能化的搜索、推薦和個性化服務。它能夠自動分類和歸納總結知識，實時更新和優化知識內容，保證準確性和時效性。
話務輔助：幫助坐席員實現工作效率和訴求人滿意度的雙提升。通過實時語音轉文字、知識庫一鍵搜索等功能，能夠快速響應訴求、提高問題解決率。確保服務的質量與專業性，為坐席員提供了全面的支持與保障。
智能分類：可根據問題描述或地址信息智能識別推薦的事項（小類），用戶可一鍵引用事項，也可對其進行修改。
智能分撥：基于歷史事件數據，算法訓練識別此事件推薦的TOP1專業部門和置信度，可以查看該事件關聯的歷史事件。
智能標簽：通過大模型文本能力解析工單問題描述，將非結構化數據結構化處理，為工單大數據分析、預警等數據治理環節提供基礎支撐。
智能回訪：提高對話的自然度和理解能力，更好地捕捉用戶情緒，靈活調整回應策略，回答市民的問題和訴求。
（2）大模型賦能全過程依法行政
當前法治政府建設當中行政處罰工作存在：法律條文方面的執法依據記不住、筆錄問詢方面的筆錄制作不規范、自由裁量權方面的自由裁量運用不當、法制審核方面的法制審核人員力量薄弱等痛點。通過城市治理行業大模型賦能，從立案登記、調查取證、法制審核、處罰決定這四個環節出發，幫助執法人員根據線索詳情智能識別違法行為，推薦相關案由及違則罰則，完成執法立案登記；智能推薦筆錄模板，一鍵填充執法文書內容，完成執法調查詢問筆錄；智能完成案件審核，實現自查自糾；智能推薦相關的自由裁量建議，輔助執法決定。
目前，數字政通正在推動與多個一線城市政府部門戰略合作，共同探索法治政府領域大模型應用場景、算法、算力方面實踐，通過大模型強大的數據處理和分析能力，在多個層面提升依法行政水平，推動法治政府建設，增強政府的公信力和執行力。
四、總結與展望
城市治理行業的大模型應用體現在其對城市治理現代化的深遠影響。隨著大模型技術的不斷發展，大模型在城市治理中的應用將更加廣泛和深入。
在應用場景分類上，大模型賦能城市治理主要分為服務優化、風險預警、經驗學習和決策支持四大類。服務優化場景通過大模型優化業務流程，提升服務效率和質量；風險預警場景可利用數據分析提高預警能力；經驗學習場景通過案例學習構建知識庫，復制推廣成功經驗；決策支持場景結合數據分析提供快速決策建議。
落地策略上，智慧城市行業大模型需結合專業知識庫、模型微調和引導詞服務。行業知識庫基于行業數據構建，為大模型提供訓練基礎；大模型微調通過技術手段如監督微調、獎勵模型和強化學習提升效率；引導詞服務基于業務理解，精準激活模型生成所需信息。
通過這些策略，智慧城市將實現管理手段、模式和理念的創新，使城市治理更智能、高效。大模型的利用為智慧城市帶來治理新范式，推動各類應用場景的務實落地，實現高質量發展。城市治理行業大模型的應用前景廣闊，將深刻改變城市治理方式，提升城市治理的智能化水平，為建設更加智慧、安全、高效的城市環境提供強有力的技術支持。
