由於香港屬於普通法法律體系，而內地實行的法律體系與大陸法系淵源較深，因此兩地法律有著明顯不同，特別是在公證制度上的差異更大。
香港沿用英國的公證制度，而普通法系的英國實行判例法，所以也沒有統一的公證法律，公證人可由律師或其他執業者擔任。在執業範圍上很狹窄，通常只能見證當事人宣誓或簽名，在可能的情況下辨別文件的真偽，一般不對文件內容的真實合法性負責。而內地的公證制度基本沿用大陸法系公證制度，比較健全，公證事務由公證處承擔，公證員獨立辦證，業務包括證明法律行為、有法律意義的事實和文書。辦理公證事務可以進行調查，要對證明內容的真實性、合法性負責。
以上差異決定了香港與內地公證書的相互使用上的特殊性。1981年之前，香港居民回內地處理有關法律事務，只能通過一些內地駐港機構(如華潤公司、中國旅行社等)和香港當地的一些社團組織(如中華總商會、港九工會聯合會等)辦理相關的證明文件。
自80年代初，中國實行開放改革政策，兩地往來更為活躍，其中不少涉及民事法律事務需及時解決，以維護兩地當事人的合法權益。於是中華人民共和國司法部透過當時中國政府的代表機構 – 新華社香港分社(現稱中央人民政府駐香港特別行政區聯絡辦公室)統戰部(現稱協調部)與香港一些律師接觸，考慮委托香港一些法律界人仕為香港同胞出具回內地處理民事法律事務有法律效力的公證文書。
由於當時尚是試行性質，因此司法部在1981年首次委托時只委托了8位對中國事務較有認知的律師負責為香港居民辦理回內地處理法律事務的證明文書，後來這些律師成為『委托公証人』。
