人工智能開源大模型和Llama 3和Llama 2許可證合規探析
作者：丁華 黃威 陳岱源 2024-04-19一、人工智能開源大模型和Llama 3和Llama2簡介
Llama的英文全稱是Large Language Model Meta AI，是Meta AI公司在2023年2月發布的大語言模型，其基于transformer架構，具有7B、13B、33B 和65B四種不同的版本[1]。
Llama 2則是Meta與微軟合作在2023年7月18日發布的新一代開放大語言模型，其具有三種參數規模，分別是70 億、130 億和 700 億。Llama 2的基礎模型發布時，還附帶發布了一個針對對話進行微調的模型，稱為Llama 2 Chat[2]。
Llama 2相較于Llama1體現出明顯的優勢。Llama 2在預訓練數據的體量上比Llama 1增加了40%，達到了2萬億個token，其文本長度從第一代的2048擴展到4096。Llama Chat 模型也在 100 多萬個新的人類注釋上進行了訓練[3]。這一巨大的提升意味著模型擁有更加豐富的語言學習資源，為其在各種任務中的表現提供了堅實的基礎。此外，Llama2的訓練數據中的文本來源也更為多樣化，進一步增強了模型的泛化能力。Llama-2的技術報告顯示，其基礎模型的性能比GPT-3更強，其微調對話模型的性能已經接近ChatGPT。
2023年8月，專門用于編程的代碼大語言模型Code Llama也相應發布，并且采用同Llama 2相同的社區許可證，允許商業使用[4]。其包含 4 個不同參數量的版本，分別為7B、13B、34B 和 70B。在訓練基礎模型時，先用同等參數量的 Llama 2 模型初始化權重，然后在 5000 億詞元的代碼數據集上訓練[5]。Meta 還對訓得的基礎模型進行了兩種不同風格的微調，分別為: Python 專家版 (再加 1000 億個額外詞元) ; 以及指令微調版，其可以理解自然語言指令[6]。
最為重要是，Llama 1在發布時僅許可了研究用途[7]，但是Llama 2是一個真正開源的大模型，并且支持產品活躍用戶小于7億的商業使用。圍繞Llama 2的開源大模型生態開始逐步產生。
由于Llama 2本身的預訓練數據中，中文數據的比例非常非常少，因此Llama 2本身的中文能力較弱，但是貴在其具有開源特性，很多中國開發者在Llama的中文社區中貢獻數據對其進行“中文特訓”。目前，國內已經建立了非常成熟的Llama中文社區[8]，Github達到 4.7k star，匯聚了國內如清華、交大以及浙大等高校團隊的頂級人才。
目前基于Llama的中文開源大模型已經有“原子回聲”聯合Llama中文社區開發的“原子大模型”[9]、哈工大-科大訊飛聯合實驗室開源的Chinese-LLaMA-Alpaca、深圳大學-大數據系統計算技術國家工程實驗室發布的Linly-OpenLLaMA、IDEA研究院發布的姜子牙通用大模型（Ziya-LLaMA-13B-v1）等。
美國時間2024年的4月18日，Meta發布了Llama的第三代開源模型Llama 3，該模型現在已經可以通過Meta AI官網、Hugging Face社區、GitHub社區下載。Llama 3 共有四個版本，8B 適用于消費級 GPU 的高效部署和開發，70B 適用于大規模人工智能原生應用，這兩種型號都有基本版本（Meta-Llama-3-8b、Meta-Llama-3-70b）和指令調整版本（Meta-Llama-3-8b-instruct、Meta-Llama-3-70b-instruct）。除了這 4 種型號外，Meta還發布了新版的Llama Guard 第二代，其在 Llama 3 8B 上進行了微調，其作用是對大模型的輸入（提示）和響應進行分類，以檢測在風險分類法中被視為不安全的內容[10]，該組件也是對以負責任的方式開發人工智能的要求的回應。
在模型的架構方面，根據Meta的官網介紹，Llama 3 使用具有 128K token 詞匯表的 tokenizer，在 8B 和 70B 大小的模型上采用了分組查詢注意力 (GQA)，在 8192 個 token 的序列上訓練模型[11]。
在預訓練數據方面，Llama 3 在超過 15T 的公開來源詞庫上進行了預訓練，數據數量是Llama 2的7倍，包含的代碼數量是 Llama 2 的4倍。并且有趣的是，Meta使用了Llama 2為Llama 3的文本質量分類器的預訓練提供數據[12]，換言之，AI已經可以用于訓練下一代AI。
Meta還在擴大與訓練規模以及指令微調方面對Llama 3進行了優化，使得Llama 3 的訓練效率相比Llama 2提高了約三倍[13]。
二、人工智能開源大模型Llama 2和Llama3許可證簡介
（一）Llama 2許可證內容簡介
人工智能開源大模型Llama 2許可證是一個定制的商業許可證，人工智能開源大模型Llama 2的發布者Meta希望可以在模型的開放訪問與責任和保護之間取得平衡，以幫助解決潛在的誤用問題。人工智能開源大模型Llama 2許可證包括兩項內容，第一項是Llama 2 社區許可證（LLAMA 2 Community License Agreement）；第二項是Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）。
1、Llama 2 社區許可證（LLAMA 2 Community License Agreement）內容簡介
Llama 2 社區許可證（LLAMA 2 Community License Agreement）發布于2023 年 7 月 18 日，許可證內容包括定義部分和7個條款。
定義部分對Llama2和Llama2材料進行了界定，“Llama 2”是指基礎大語言模型及軟件和算法，包括機器學習模型代碼、訓練過的模型權重、可推理代碼、可訓練代碼、可微調代碼以及Meta在llama.meta.com/llama-downloads/分發上述材料的其他部分。“Llama 材料”統指Meta 擁有的 Llama 2 和其文檔（及其任何部分）?！拔臋n”是指由 Meta 在 llama.meta.com/llama-downloads/上分發的 Llama 2 隨附的規格、手冊和文檔。LLAMA 2 Community License規定了對Llama 材料的使用、復制、分發和修改的條款和條件。
LLAMA 2 Community License Agreement的許可人根據被許可人所在地域也有區別，如果被許可人位于歐洲經濟區或瑞士，則許可人Meta指Meta Platforms Ireland Limited；如果被許可人位于歐洲經濟區或瑞士以外則，許可人Meta指Meta Platforms, Inc.
第1條許可權利和再分發部分，根據 Meta 的知識產權或 Meta 所擁有的 Llama 材料中體現的其他權利，授予被許可方非獨占、全球性、不可轉讓且免版稅的有限許可，可以使用、復制、分發、拷貝、創作派生作品以及制作對 Llama 材料的修改。
第1條在規定授予許可同時，也規定了再分發和使用的條件：（i）如果您向第三方分發或制作 Llama 材料或其任何派生作品，應向該第三方提供許可協議的副本；（ii） 如果您從被許可人處收到作為集成最終用戶產品一部分的 Llama 材料或其任何派生作品，則協議第 2 條規定的附加商業條款將不適用；（iii）您必須在您分發的 Llama 材料的所有副本的 “Notice”文本文件(該文件為該副本的一部分) 中保留一份下面的歸屬聲明：“Llama 2 根據 LLAMA 2 社區許可證被許可，版權所有 ? Meta Platforms, Inc 。所有權利保留。”（iv）您對 Llama 材料的使用必須遵守適用的法律和法規（包括貿易合規法律和法規），并遵守 Llama 材料的可接受使用政策，并將該政策作為許可協議的一部分；（v） 您不得使用 Llama 材料或 任何輸出或Llama 材料的結果來改進任何其他大型語言模型（不包括 Llama 2 或其派生作品）。
第2條附加商業條款規定，如果在 Llama 2 版本發布之日，被許可方或被許可方的關聯公司提供的產品或服務的每月活躍用戶數在上一個日歷月中超過 7 億，則必須向Meta申請許可證，Meta 可以自行決定是否授予該權利，并且您無權行使許可協議項下的任何權利，除非或直到 Meta 明確授予您此類權利。
第3條無擔保聲明規定，除非適用法律要求，否則 LLAMA 材料及其任何輸出和結果均按“原樣”提供，不提供任何類型的明示或默示擔保，包括但不限于所有權、不侵權、適銷性或特定用途的適用性的任何擔保。您單獨負責決定使用或再分發 LLAMA 材料的適當性，并承擔與您使用 LLAMA 材料以及任何輸出和結果相關的任何風險。
第4條責任限制規定，在任何情況下，META 或其關聯公司基于任何責任理論，無論是合同、侵權、疏忽、產品責任或因許可協議引起，均不對任何利潤損失或任何間接、特殊、后果性、伴隨性、懲戒性或懲罰性損害承擔責任，即使 Meta 或其關聯公司已被告知發生上述任何情況的可能性。
第5條知識產權規定：（a）許可協議未授予任何商標許可，并且因 Llama 材料關聯，無論Meta還是被許可方均不得使用對方或其任何關聯公司擁有或與之相關的任何名稱或標記，除非為了描述和再分發Llama 材料而合理和慣常使用。（b）根據 Meta 對其制作的 Llama 材料及其衍生品的所有權，對于您做出的對 Llama 材料的任何修改和派生作品，在您和 Meta 之間，您現在和將來都是此類派生作品和修改的擁有者。（c）如果您針對 Meta 或任何實體提起訴訟或其他程序（包括訴訟中的交叉請求或反請求），聲稱 Llama 材料或 Llama 2 輸出或結果，或任何前述內容的任何部分構成對您擁有或可許可的知識產權或其他權利的侵權，則根據許可協議授予您的任何許可應自提出或啟動此類訴訟或請求之日起終止。對于因您使用或分發 Llama 材料而引起或與之相關的任何第三方提出的針對Meta的任何請求，您應對 Meta 進行賠償并使其免受損害。
第6條期限和終止規定，許可協議的期限自您接受許可協議或訪問 Llama 材料時開始，并將持續完全有效，直至根據許可協議的條款和條件而終止。如果您違反許可協議的任何條款或條件，Meta 可以終止許可協議。許可協議終止后，您應刪除并停止使用 Llama 材料。第 3、4 和 7 條在許可協議終止后仍然有效。
第7條適用法律和管轄權規定，許可協議將受加利福尼亞州法律管轄和解釋，但不包括選擇法律的規則，并且《聯合國國際貨物銷售合同公約》不適用于許可協議。加利福尼亞法院對因許可協議引起的任何爭議擁有獨占的管轄權。
2、Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）內容簡介
Meta 為了促進安全、公平地使用其工具和功能（包括 Llama 2），制定了Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）。Llama 2 可接受使用政策規定了4類禁止用途。
第1類是違反法律或侵犯他人權利的方式利用Llama 2，具體包括：（a） 參與、促進、產生、促成、鼓勵、計劃、煽動或進一步非法或不合法的活動或內容，例如：暴力或恐怖主義、剝削或傷害兒童，包括誘惑、創建、獲取或傳播兒童剝削內容或未能報告兒童性虐待材料。（b）人口販買、剝削和性暴力；向未成年人非法分發信息或材料，包括淫穢材料，或未對此類信息或材料采用法律要求的年齡限制；性誘惑；任何其他犯罪活動。（c） 參與、促進、煽動或協助對個人或個人群體進行騷擾、虐待、威脅或欺凌。（d） 在提供就業、就業福利、信貸、住房、其他經濟福利或其他基本商品和服務時參與、促進、煽動或協助歧視或其他非法或有害行為。（e）從事任何未經授權或未經許可的專業實踐，包括但不限于金融、法律、醫療/健康或相關專業實踐。（f）未經適用法律要求的權利和同意，收集、處理、披露、生成或推斷有關個人的健康、人口統計或其他敏感個人或個人信息。（g）參與或協助任何侵犯、盜用或以其他方式侵犯任何第三方權利的行動或生成任何內容，包括使用 Llama 2 材料的任何產品或服務的輸出或結果。（h）創建、生成或協助創建惡意代碼、惡意軟件、計算機病毒或執行任何其他可能禁用、超載、干擾或損害網站或計算機系統的正常工作、完整性、操作或外觀的行為。
第2類是參與、促進、煽動、便利或協助計劃或開展對個人造成死亡或身體傷害風險的活動，具體包括：（a）軍事、戰爭、核工業或應用、間諜活動、用于受美國國務院維持的《國際運輸武器條例》(ITAR) 約束的材料或活動。（b）槍支和非法武器（包括武器開發）。（c）非法藥物和管制/管制物質。（d）關鍵基礎設施的運營、運輸技術或重型機械。（e）自傷或傷害他人，包括自殺、割傷和進食障礙。（f）任何旨在煽動或宣揚暴力、虐待或對個人造成身體傷害的內容。
第3類故意欺騙或誤導他人，包括使用 Llama 2 進行以下相關活動：（a）生成、宣揚，或增進欺詐或創造或宣揚虛假信息。（b）生成、宣傳或增進傳播誹謗性內容，包括創建誹謗性言論、圖像或其他內容。（c）生成、宣傳或增進分發垃圾郵件。（d）未經同意、授權或合法權利假冒其他個人。（e）聲明 Llama 2 的使用或輸出是人類生成的。（f）生成或促進虛假在線參與，包括虛假評論和其他虛假在線參與方式。
第4類是未能適當地向最終用戶披露人工智能系統的任何已知危險的情況。
（二）Llama 3許可證內容簡介
1、Llama 3 社區許可證（LLAMA 3 Community License Agreement）內容簡介
Llama 3 社區許可證（LLAMA 3 Community License Agreement）發布于2024 年 4 月 18 日，許可證內容包括定義部分和7個條款。
Llama 3 社區許可證（LLAMA 3 Community License Agreement）條款內容基本沿襲了Llama 2 社區許可證（LLAMA 2 Community License Agreement）的條款內容，實質性修改有兩點。
第一點修改是對再分發和使用Llama3的條件做出了重大修改。Llama2社區許可證的第1條b款（i）項此前僅要求如果被許可者向第三方分發或制作 Llama 材料或其任何派生作品，應向該第三方提供許可協議的副本。Llama 3 社區許可證（LLAMA 3 Community License Agreement）第1條b款（i）項修改為，如果被許可者分發或提供 Llama 材料（或其任何衍生作品）或使用了Llama3中任何材料的產品或服務（包括其他 AI 模型），被許可者應 (A) 隨任何此類 Llama 材料提供本協議的副本； (B) 在相關網站、用戶界面、博客文章、關于頁面或產品文檔上突出顯示“Built with Meta Llama 3”。如果被許可者使用 Llama 材料來創建、訓練、微調或以其他方式改進一個 AI 模型，并進行分發或使其可用，被許可者還應在任何此類 AI 模型名稱的開頭加入“Llama 3”字樣。
第二點修改是對第5條知識產權條款a款中商標授權條例進行了修改。Llama2社區許可證的第5條a款此前未授予任何商標許可，雖然因 Llama 材料關聯，無論Meta還是被許可方均不得使用對方或其任何關聯公司擁有或與之相關的任何名稱或標記，除非為了描述和再分發Llama 材料而合理和慣常使用。Llama 3 社區許可證（LLAMA 3 Community License Agreement）第5條a款項修改為，未授予任何商標許可，雖然因 Llama 材料關聯，無論Meta還是被許可方均不得使用對方或其任何關聯公司擁有或與之相關的任何名稱或標記，除非為了描述和再分發Llama 材料而合理和慣常使用或按照本第 5(a) 條的規定使用。Meta 在此授予被許可者使用“Llama 3”（“標記”）的許可，該許可僅限于根據第 1條b款（i）項最后一句規定而使用，即在AI 模型名稱的開頭加入“Llama 3”字樣。被許可者將遵守Meta的品牌指南（目前可訪問https://about.meta .com/brand/resources/meta/company-brand/）。許可者因使用該標記而產生的所有商譽都將歸屬于Meta。
2、Llama 3 可接受使用政策（Llama 3 Acceptable Use Policy）內容簡介
Meta 就Llama3的使用限制，發布了Llama 3 可接受使用政策（Llama 3 Acceptable Use Policy）。Llama 3 可接受使用政策規定了4類禁止用途，具體內容同Llama 2 可接受使用政策相同，并無實質性修改。
三、人工智能開源大模型Llama 2許可證合規需要關注的問題
根據前文對如前文對人工智能開源大模型Llama 2 社區許可證（LLAMA 2 Community License）和Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）內容的簡要介紹，商業公司在合規訪問、使用和分發人工智能開源大模型Llama 2時應當關注如下問題。
（一）Llama 2許可證許可的內容是Llama 2模型參數文件、代碼文件及其文檔
Llama 2許可證許可的內容是“Llama 材料”， 而“Llama 材料包括Meta 擁有的 Llama 2 和其文檔。
“Llama 2”是指基礎大語言模型及軟件和算法，包括機器學習模型代碼、訓練過的模型權重、可推理代碼、可訓練代碼、可微調代碼以及Meta分發上述材料的其他部分?！拔臋n”是指由 Meta分發的 Llama 2 隨附的規格、手冊和文檔。
（二）Llama 2的模型權重參數文件和開源代碼文件統一適用Llama 2許可證
Meta并沒有將Llama 2的模型權重參數文件和開源代碼文件進行區分，沒有分別適用模型許可證和開源軟件許可證，而是統一適用其定制的Llama 2 社區許可證（LLAMA 2 Community License）和Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）。
（三）Meta對被許可人授予的使用關于Llama 2的知識產權范圍應當包括版權和專利權，但不包括商標和商號權
Llama 2許可證第1條是Meta根據其享有的知識產權或 Meta 所擁有的 Llama 材料中體現的其他權利，授予被許可方非獨占、全球性、不可轉讓且免版稅的有限許可，可以使用、復制、分發、拷貝、創作派生作品以及制作對 Llama 材料的修改?？紤]到Llama 2許可證第1條的許可是根據Meta 的知識產權或 Meta 所擁有的 Llama 材料中體現的其他權利概括性做出的許可，原則上應當包括屬于知識產權范疇的版權許可和專利許可。
Llama 2許可證議未授予任何商標許可，并且因 Llama 材料關聯，無論Meta還是被許可方均不得使用對方或其任何關聯公司擁有或與之相關的任何名稱或標記，除非為了描述和再分發Llama 材料而合理和慣常使用。
（四）不得使用Llama2及其輸出用于改進其他大語言模型
Llama 2許可證規定，被許可人不得使用 Llama 材料或任何輸出或Llama 材料的結果來改進任何其他大型語言模型（不包括 Llama 2 或其派生作品）。開源軟件許可證一般沒有此類限制，因此需要Llama2的使用者特別關注。
（五）如果被許可人及其關聯公司提供的產品或服務的月訪問用戶超過7億，需要另行申請單獨的商業許可
Llama 2 社區許可證（LLAMA 2 Community License）根據Llama官網的介紹就是一個定制的商業許可，被許可人可將Llama用于商業或非商業用途
但Llama 2 社區許可證（LLAMA 2 Community License）同時規定，如果在 Llama 2 版本發布之日，被許可方或被許可方的關聯公司提供的產品或服務的每月活躍用戶數在上一個日歷月中超過 7 億，則必須向Meta申請單獨的商業許可證。Meta 可以自行決定是否授予該權利。開源軟件許可證一般沒有此類規定，該規定事實上要求大型互聯網公司單獨申請商業許可，排除在Llama 2 社區許可證（LLAMA 2 Community License）適用的被許可人范圍之外。
（六）被許可人擁有Llama2所做的修改形成的派生作品，且無強制開源義務
Llama 2許可證規定，根據 Meta 對其制作的 Llama 材料及其衍生品的所有權，對于被許可人做出的對 Llama 材料的任何修改和派生作品，在被許可人和 Meta 之間，被許可人現在和將來都是此類派生作品和修改的擁有者。
Llama 2許可證規定也類似于Apache 許可證版本 2.0屬于寬松型開源協議，除履行保留許可證內容、聲明等開源許可證義務外，其并不要求后續使用者對基于開源人工智能大模型進行修改得到的派生作品繼續進行開源/開放，因此被許可人對修改Llama2獲得的派生作品，有權決定是否繼續開源/開放其修改后的Llama2派生作品。
（七）被許可人需遵守Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy），不得違反使用限制
被許可人在使用、分發和修改Llama 2時，不得違反Llama 2可接受使用政策（Llama 2 Acceptable Use Policy），將Llama2用于四類禁止用途：第1類違反法律或侵犯他人權利的方式利用Llama 2；第2類參與、促進、煽動、便利或協助計劃或開展對個人造成死亡或身體傷害風險的活動；第3類故意欺騙或誤導他人；第4類是未能適當地向最終用戶披露人工智能系統的任何已知危險的情況。其中前3類使用限制和通用的AI Open RAIL許可證相似，第4類是Llama 2許可證另外增加的限制。
（八）Llama 2使用語言限制問題
Llama 2 社區許可證（LLAMA 2 Community License）和Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）均沒有語言限制條款。
但在Llama 2的模型卡文件（MODEL_CARD.md）的“預期使用方式”（Intended Use）中規定，Llama 2的預期用途為以英語形式的商業和研究用途。“超出范圍的使用行為”包括：以任何違反適用法律或法規（包括貿易合規法）的方式使用；以Llama 2可接受使用政策和Llama 2社區許可證禁止的任何其他方式使用。使用英語以外的語言。在前述規定后還特別注明，如果符合Llama 2社區許可證和Llama 2可接受使用政策，開發人員可以針對英語以外的語言對Llama 2中的模型進行微調[14]。
考慮到，Llama 2 社區許可證（LLAMA 2 Community License）和Llama 2 可接受使用政策（Llama 2 Acceptable Use Policy）中均沒有語言限制條款；且在Llama 2模型卡文件除了說明Llama 2的預期用途為以英語形式的商業和研究用途外，還特別注明開發人員可以針對英語以外的語言對Llama 2中的模型進行微調，因此筆者認為Llama 2模型卡文件中關于使用英語的限制說明應當是對Llama 2使用性能的說明（因Llama 2語料庫以英文為主），而非從法律角度禁止將Llama2用于其他語言（包括中文）。Meta的開源及產品主管Joseph Spisak在Github回答了一位法語開發者關于語言限制問題的提問，Joseph Spisak指出Llama 2并沒有在多語言的基礎上進行訓練，因此將其用于支持英語之外的語言應用將使結果變得不可靠，但是這并不是禁止的，只要遵守法律條款和使用政策，開發者當然可以用其他語言對Llama 2進行微調，并且將成果進一步商用[15]。
在符合Llama 2社區許可證和Llama 2可接受使用政策的情況下，開發人員可以針對英語以外的語言對Llama 2中的模型進行微調后，將微調后的模型用于英語以外的語言的商業和研究用途。
四、 人工智能開源大模型Llama 3許可證合規需要進一步關注的問題
根據前文對Llama 3 社區許可證（LLAMA 3 Community License Agreement）和Llama 3 可接受使用政策（Llama 3 Acceptable Use Policy）內容的簡要介紹，考慮到Llama 3的社區許可證和Llama2的社區許可證的主要內容相同，商業公司在合規訪問、使用和分發人工智能開源大模型Llama 3時亦應關注前述使用Llama 2時需關注的問題，并在此基礎上對Llama 3許可證和Llama2許可證差異之處予以特別關注，具體為：
如果被許可者分發或提供 Llama 材料（或其任何衍生作品）或使用了Llama3中任何材料的產品或服務（包括其他 AI 模型），被許可者除應隨任何此類 Llama 材料提供本協議的副本外，還應當 在相關網站、用戶界面、博客文章、關于頁面或產品文檔上突出顯示“Built with Meta Llama 3”。
如果被許可者使用 Llama 材料來創建、訓練、微調或以其他方式改進一個 AI 模型，并進行分發或使其可用，被許可者還應在任何此類 AI 模型名稱的開頭加入“Llama 3”字樣。Meta僅在此種情況下授予被許可者使用“Llama 3”標記的許可，被許可者需要遵守 Meta 發布在其官網上的品牌指南，且被許可者因使用“Llama 3”而產生的所有商譽都將歸屬Meta。
注釋
[1] https://github.com/meta-llama/llama/blob/main/MODEL_CARD.md。
[2] https://ai.meta.com/research/publications/llama-2-open-foundation-and-fine-tuned-chat-models/。
[3] https://llama.meta.com/llama2/。
[4] https://huggingface.co/meta-llama/CodeLlama-7b-hf。
[5] https://llama.meta.com/code-llama。
[6] https://huggingface.co/blog/zh/codellama#code-llama-%E7%AE%80%E4%BB%8B。
[7] https://docs.google.com/forms/d/e/1FAIpQLSfqNECQnMkycAp2jP4Z9TFX0cGR4uf7b_fBxjY_OjhJILlKGA/vi
[8] https://github.com/FlagAlpha/Llama2-Chines。
[9] https://llama.family/。
[10] https://huggingface.co/blog/llama3。
[11] https://ai.meta.com/blog/meta-llama-3/。
[12] https://ai.meta.com/blog/meta-llama-3/。
[13] https://ai.meta.com/blog/meta-llama-3/。
[14] https://github.com/meta-llama/llama/blob/main/MODEL_CARD.md
[15] https://github.com/meta-llama/llama/issues/406
