關于ChatGPT人工智能十問
作者：李章虎 李檬 2023-04-21近年來，以ChatGPT為代表的人工智能技術發展迅速，它能夠模擬人類的思維方式，具有高水平的語言理解和表達能力，許多人競相與ChatGPT對話，以得到智能輸出的成果信息。但在感受人工智能應用強大的同時，也帶來了知識產權、個人信息保護、數據安全等一系列法律風險，引發了人們對其潛在影響的擔憂。那么，ChatGPT是什么？ChatGPT的數據來自哪里？ChatGPT生成的信息會受到保護嗎？ChatGPT研發者是否需要承擔侵權責任？ChatGPT可能產生哪些社會或倫理問題？錦天城（重慶）律師事務所高級合伙人李章虎律師、實習生李檬，通過檢索匯總相關問題的官方或可證渠道內容，撰寫如下十問，供大家多角度認識ChatGPT及相關應用產品。
一問：什么是ChatGPT？
ChatGPT名稱包括了兩個部分：一個是 Chat，另一個是 GPT。Chat指的是聊天，GPT是 Generative （生產）Pre-trained （預訓練） Transformer（轉換器）的縮寫， GPT譯為預訓練生成模型， Chat與GPT結合的意思是預訓練生成聊天模型。ChatGPT是美國 OpenAI公司研發并于2022年11月30日正式推出的一種大型語言生成模型，該生成模型基于人工神經元網絡-深度學習技術，通過深度學習互聯網信息實現對已有作品（圖像、文字、代碼）的程序化修改。例如，輸入“給猴子 P上電腦和帽子”指令后，輸出的動圖中，猴子、電腦和帽子的照片明顯都是由人工智能機器人識別并自動找到的素材。如同人類作者需要參考已有文獻資料而進行創作一樣，人工智能創作也需要創作素材來“喂養”。
（圖片來源：OpenAI）
就其功能而言，ChatGPT可以幫助使用者進行內容創作，如寫報告、寫論文、寫詩、寫歌等；可以幫助使用者準備考試，如批改論文，生成相關習題等；還可以幫助使用者編寫代碼、調試程序、整理會議紀要、制作 PPT等。
目前，國內類似產品有 “文心一言”和“通義千問”。“文心一言”是百度全新一代知識增強大語言模型，擁有超過1000億個參數，是當前世界上最大規模的中文知識增強大語言模型，能夠與人對話互動、回答問題、輔助創作，能高效便捷地幫助人們獲取信息、知識與靈感。此外，“通義千問”是阿里云推出的一個超大規模的語言模型，功能包括多輪對話、文案創作、邏輯推理、多模態理解與多語言支持，能夠跟人類進行多輪的交互，也融入了多模態的知識理解，且有文案創作能力，能夠續寫小說，編寫郵件等。
二問：ChatGPT有很強大的功能，可以幫助使用者做很多事情，那么ChatGPT的知識（數據）來自哪里？
ChatGPT的豐富知識儲備來自于人類“喂養”它的訓練數據，現階段，數據來源主要包括：網絡上的文本數據、社交媒體數據、問答網站數據、新聞站數據、文學作品數據等。這些數據來自不同的供給端，比如可以通過爬蟲程序自動收集，也可以由擁有相關數據的機構提供。另外，發現應用人員與它對話交互問答，也是它一種數據來源。ChatGPT對用戶的輸入內容享有廣泛的使用權，若用戶輸入的內容涉及個人隱私、商業秘密等內容，則存在相關數據被泄露的可能性。
三問：ChatGPT的知識既然來源于網絡、社交媒體、文學作品等多個供給端，那么它生成的信息會受到保護嗎？
《著作權法》保護的是一種在特定領域內具有獨創性的思想表達，而非思想本身。獨創性的認定，關鍵在于判斷作品是否由作者獨立創作完成，以及作品對表達的安排是否體現了作者的選擇、判斷等。在理論界，學者們圍繞人工智能生成內容是否應受著作權法保護的問題還未有定論；在實務中，北京知識產權法院審理的“菲林”案與深圳市南山區人民法院審理的“Dreamwriter”案亦存在不同的裁判觀點。具體而言，2019年“北京菲林律師事務所訴北京百度網訊科技有限公司侵害署名權、保護作品完整權、信息網絡傳播權糾紛案”中，法院認為自然人創作完成仍應是著作權法上作品的必要條件，軟件研發者（所有者）和使用者均不應成為分析報告的作者，但應當激勵軟件使用者的使用和傳播行為，將分析報告的“相關權益”賦予其享有。而在2020年深圳市南山區人民法院判決的人工智能生成文章作品糾紛 “騰訊訴盈訊科技侵害著作權糾紛案”中，法院認為涉案文章屬于我國著作權法所保護的文字作品，是原告主持創作的法人作品。總之，在人工智能生成內容是否受到著作權法保護的問題上，理論和實務界都沒有統一的觀點。不過，隨著技術的發展，人們對于這一問題的認識也在不斷變化，未來可能會出現更多不同的觀點。
個人認為，具有獨創性的思想表達內容，首先肯定要保護；其次考慮是使用著作權法保護，還是依據《民法典》以一般“可保護法益”進行保護，今后法院可作出統一的裁判結果。
四問：ChatGPT研發者OpenAI 對于生成內容涉及的侵權問題，是否需要承擔責任？
關于是否構成侵權，可以從侵權行為可預見性、侵權行為控制力、侵權直接獲益等角度評估ChatGPT研發者OpenAI。ChatGPT作為一種通用技術或者服務，符合知識產權法中的“技術中立原則”或者說“實質性非侵權用途”，因為輸出的內容具有不確定性，既可能侵權，更可能不侵權；并且對于下游模型商業應用者和最終用戶的使用行為不具有實際的控制能力。因此，AI模型研發主體OpenAI 原則上無需對生成內容涉及的侵權問題擔責。但是，如果輸出的內容涉嫌侵犯別人隱私等實體權利，研發主體又沒有加以措施限制則有可能侵權；另外，就輸出的內容被新應用者商業性使用，而侵犯別人的在先權利等，應用者需要承擔責任。
值得注意的是，2023年4月11日，國家互聯網信息辦公室（簡稱“網信辦”）發布通知，就《生成式人工智能服務管理辦法（征求意見稿）》向社會公開征求意見，意見反饋截止時間為5月10日。其中第五條規定“利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人（以下稱“提供者”），包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務”。以及第七條“提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。”可見，我國對類似ChatGPT軟件應用的提供者是否有責任，根據不同情況同步制定在規則中了。《征求意見稿》如正式出臺，則標志著我國生成式人工智能進入規范發展階段。
五問：有些人會通過使用ChatGPT 來撰寫研究報告、論文甚至家庭作業，怎么判斷由ChatGPT 生成，還是人創作的？
由于技術的不斷迭代進步，ChatGPT的能力也在不斷提高，沒有絕對可靠的方法來完全區分，并且越來越難以被準確地檢測出來。至少目前階段（2023年4月19日），引用網上一位大神的經驗，可以從以下幾方面盡量分辨：
1）邏輯連貫性：盡管ChatGPT生成的文本通常在語法和結構上很自然，但有時它可能在邏輯連貫性方面存在問題。如果一段文字在結構上完整但邏輯關系模糊，這可能是由AI生成的。
2）細節準確性：ChatGPT在一定程度上受限于其訓練數據，因此可能無法生成特定領域的精確信息。如果一段文字包含了不準確或過時的信息，這可能表明它是由AI生成的。
3）文本重復：ChatGPT有時會在生成的文本中重復某些短語或句子。如果發現一段文字中存在明顯的重復內容，這可能是一個AI生成的跡象。
4）奇怪的回答：雖然ChatGPT在回答問題時通常具有相關性，但有時它可能提供奇怪或無關的答案。如果在一段文字中發現這種現象，這可能意味著它是由AI生成的。
5）過于中立：ChatGPT傾向于生成中立且無爭議的內容。如果一段文字過于中立或對某個觀點沒有明確的立場，這可能是AI生成的跡象。
（強調下，上述經驗陳述內容著作權歸原作者）
六問：ChatGPT會不會泄露個人隱私?
河有兩岸，事分兩面。近年來，我們的經濟社會快速發展，在享受人工智能開發紅利的同時也不可避免的面對技術創新帶來的問題，尤其是當前受到普遍關注的個人隱私泄露問題。
援引 意大利數據保護局 認為， ChatGPT 存在四個問題：
1）OpenAI 沒有年齡控制來阻止 13 歲以下的人使用文本生成系統；
2）它可以提供有關人員的不準確信息；
3）尚未告知人們其數據已被收集；
4）ChatGPT用于訓練而收集海量個人信息 “沒有法律依據”。雖然，ChatGPT目前不提供中國國內使用，重要原因是不滿足我國的數據安全要求。1）數據本地化要求不滿足：其用戶條款第九條明確聲明了，所有的用戶數據都會被轉移到美國，而我國數據跨境傳輸是有嚴格規定的，不滿足國內法規要求，采用類似蘋果數據云上貴州，特斯拉上海機房是必要條件。2）敏感數據處置有風險：其注銷聲明中明確提到了，可以注銷且刪除賬戶信息，但會話中的敏感信息是無法刪除的，會被后續訓練使用，敏感數據也會被分享和三方存儲。但是，實際上，國內不少人和單位仍然通過其他方式在OpenAI進行注冊并使用其服務，甚至在網絡購物平臺由賣家銷售賬號。ChatGPT的服務器在海外，如果在使用過程中輸入敏感信息活動代碼，可能會帶來數據安全威脅，因為 ChatGPT可能會泄露用戶對話數據，還有付款服務支付信息，這些信息一旦被泄露，就會對用戶的隱私和財產造成嚴重的威脅。
七問：ChatGPT可能產生哪些社會或倫理問題？
1）職業風險。大家比較關注的是一些工作崗位可能會被人工智能機器人取代，從而導致一些人失業。例如，ChatGPT可以幫助人們解決語言交互問題，應用于客服機器人、虛擬人、翻譯、家庭陪護、法律咨詢等多個領域，提高工作效率。再者，ChatGPT依托語言編寫，可應用于編寫和調試計算機程序，進行文學相關領域的創作，法律文書編寫等。此外， ChatGPT結合搜索引擎很可能會打破傳統模式，呈現出一種“以傳統搜索引擎為主+基于神經網絡的語言模型為輔”的模式，搜索結果將會更加“人性化”。這些方面，人工智能有望做得比人類更出色。
2）ChatGPT技術可能會忽略用戶的隱私。盡管 ChatGPT可以通過與用戶的的實時聊天來分析和理解大量的文本信息，但ChatGPT使用了無監督的預訓練方式，在這種情況下，它可能會忽略一些重要的用戶隱私信息，如用戶的位置、聯系方式、金融信息等。這種信息一旦被不當利用或傳播，就有可能危及到用戶的個人隱私權。
3）模糊人類與機器之間的關系。如果讓ChatGPT生成非常逼真的自然語言文本，那么人類與機器之間的界限可能會變得模糊。在一些情況下，這種“技術中立”可能會引發一些倫理問題。
4）ChatGPT技術可能會引發不良行為。從某種意義上來說，聊天機器人確實具有很強的模仿能力，因為它們可以很快地識別人類的語音語調、情感和肢體語言。如果聊天機器人被用作恐嚇、誹謗和其他形式的威脅，它就會成為一種可怕的力量，并對社會產生負面影響。
八問：如果人工智能會導致部分人失業，那么ChatGPT是否會取代律師個人的價值？
根據目前階段的技術成熟度，個人認為在法律領域屬于助理級，比如做一些案例檢索、圖表制作等，不會取代律師。
首先，作為一名律師，在案件中很重要的一個工作是發現并準確的歸納出爭議焦點，找到案件的癥結點，這是專業性較強的工作。其次，案件的客觀事實具有復雜性，每個案件之間細小不同就可能導致完全不同的結果，而這些不同往往隱藏在一些細節中，非常容易被忽略，這依賴于律師通過實地考察、閱卷、調查等方式來發現。雖然法律知識的積淀固然重要，而如何厘清事實，如何收集證據，如何在復雜的法律體系中選擇正確的法律依據，如何在紛繁的法律事實中確定真正的焦點，這就使得律師能夠從容面對不同時間、不同地區、不同案件的差異性，構建正確的推理鏈條并尋找相關的依據并去論證。因此，基于律師的工作的這些不可替代性，ChatGPT在法律領域表現或可提升，但目前仍不能完全取代律師。
九問：如何運用ChatGPT形成正向驅動，應對ChatGPT的挑戰？
面對ChatGPT的沖擊，正如每一次技術革命發展一樣，還是要擁抱人工智能新時代，它是大勢所趨，已無法停止。從個人角度，要學會利用ChatGPT并找到更具創造力的競爭優勢，以便在市場中脫穎而出；從企業角度，要做好商業模式和技術路線的融合規劃，通過人工智能和大數據的結合提升企業核心競爭力；從政府角度，要前瞻布局，搭建相關的法律法規和倫理框架，以保障公民隱私和社會公平。
十問：從法律角度，律師如何看ChatGPT的未來前景？
ChatGPT在法律領域的應用前景十分廣闊，它可以演化成律師助手，幫助律師分析大量的法律文件和案例，為律師提供智能化的法律建議和指導，幫助其更好地完成工作。同時，ChatGPT還可以進行案例檢索，通過對相關資料進行整合，更好地支持律師的工作。此外，ChatGPT還可以用于合同審核、輔助訴訟、分析法律數據等，有助于提高法律工作者的效率和準確性。
