| { |
| "paper_id": "2020", |
| "header": { |
| "generated_with": "S2ORC 1.0.0", |
| "date_generated": "2023-01-19T12:52:28.508762Z" |
| }, |
| "title": "\u57fa \u57fa \u57fa\u4e8e \u4e8e \u4e8eGraph Transformer\u7684 \u7684 \u7684\u77e5 \u77e5 \u77e5\u8bc6 \u8bc6 \u8bc6\u5e93 \u5e93 \u5e93\u95ee \u95ee \u95ee\u9898 \u9898 \u9898\u751f \u751f \u751f\u6210 \u6210 \u6210", |
| "authors": [ |
| { |
| "first": "\u80e1", |
| "middle": [ |
| "\u80e1" |
| ], |
| "last": "\u80e1\u6708", |
| "suffix": "", |
| "affiliation": {}, |
| "email": "" |
| }, |
| { |
| "first": "Yue", |
| "middle": [], |
| "last": "Hu", |
| "suffix": "", |
| "affiliation": {}, |
| "email": "" |
| }, |
| { |
| "first": "Wu", |
| "middle": [], |
| "last": "Han", |
| "suffix": "", |
| "affiliation": {}, |
| "email": "" |
| }, |
| { |
| "first": "Hu", |
| "middle": [], |
| "last": "Bei", |
| "suffix": "", |
| "affiliation": {}, |
| "email": "" |
| }, |
| { |
| "first": "Guangyou", |
| "middle": [], |
| "last": "Zhou", |
| "suffix": "", |
| "affiliation": {}, |
| "email": "gyzhou@mail.ccnu.edu.cn" |
| } |
| ], |
| "year": "", |
| "venue": null, |
| "identifiers": {}, |
| "abstract": "", |
| "pdf_parse": { |
| "paper_id": "2020", |
| "_pdf_hash": "", |
| "abstract": [], |
| "body_text": [ |
| { |
| "text": "\u4efb \u52a1 \u83b7 \u5f97 \u4f18 \u5f02 \u7684 \u6210 \u679c \uff0c \u4e00 \u7cfb \u5217 \u4ee5 \u57fa \u4e8e \u795e \u7ecf \u7f51 \u7edc \u7684\u5951\u5947\u7cfb \u7edf \u88ab \u63d0 \u51fa \u3002\u5953\u5965\u5972\u5962\u5961\u596e\u7b49 \u4eba\u5928\u5932\u5930\u5931\u5936\u5929\u91c7 \u7528 \u57fa\u4e8e\u6ce8\u610f\u529b\u7684\u7f16\u7801\u592d\u89e3\u7801\u6846\u67b6\u5728\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u6570\u636e\u96c6\u4e0a\u8bad\u7ec3\u6a21\u578b\uff0c\u5e76\u751f\u6210\u4e86\u5933\u5930\u594d\u7684\u6807\u7b7e\u6570 \u636e \u3002\u594b\u5968\u5961\u5970\u5972\u5961\u7b49 \u4eba\u5928\u5932\u5930\u5931\u5937\u5929\u5c06 \u7ed9 \u5b9a \u77e5 \u8bc6 \u5e93 \u4e2d \u7684 \u6240 \u6709 \u5b9e \u4f53 \u8f6c \u6362 \u4e3a \u4e00 \u7ec4 \u5173 \u952e \u5b57 \uff0c \u7136 \u540e \u4ee5\u5953\u5965\u5971\u5932\u5953\u5965\u5971\u7ed3 \u6784\u8fdb\u884c\u5efa\u6a21\u3002\u5945\u596c\u5953\u5961\u5968\u5961\u5972\u7b49\u4eba\u5928\u5932\u5930\u5931\u5938\u5929\u91c7\u7528\u595a\u5965\u5972\u596f\u592d\u5973\u5968\u596f\u5974\u4f7f\u6a21\u578b\u80fd\u591f\u6cdb\u5316\u672a\u9047\u89c1\u8fc7\u7684\u8c13\u8bcd\u548c\u5b9e\u4f53\u7684\u95ee \u9898\u3002\u5957\u5961\u596e\u5967\u7b49\u4eba\u5928\u5932\u5930\u5931\u5938\u5929\u5728\u5953\u5965\u5971\u5932\u5953\u5965\u5971\u57fa\u7840\u4e0a\u52a0\u5165\u590d\u5236\u673a\u5236\u5928\u5947\u5975 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5936\u5929\uff0c\u4f7f\u6a21\u578b\u80fd\u89e3\u51b3\u594f\u594f\u5956\u95ee \u9898\u3002\u4e0a\u8ff0\u751f\u6210\u6a21\u578b\u53ea\u8003\u8651\u5230\u5bf9\u672a\u51fa\u73b0\u8fc7\u7684\u4e09\u5143\u7ec4\u6216\u4f4e\u9891\u51fa\u73b0\u7684\u751f\u50fb\u8bcd\u7684\u89e3\u51b3\u65b9\u6cd5\uff0c\u4f46\u5bf9\u4e8e\u751f\u6210 \u4fe1\u606f\u91cf\u4e30\u5bcc\u548c\u591a\u6837\u5316\u7684\u95ee\u9898\u7684\u8003\u8651\u6709\u6240\u6b20\u7f3a\u3002\u53d7\u5943\u5961\u5969\u5928\u5932\u5930\u5931\u5939\u5929\u548c\u594b\u596f\u596e\u5963\u5965\u596c\u592d\u594b\u5965\u5964\u597a\u5969\u596f\u5972\u5973\u596b\u5969\u5928\u5932\u5930\u5931\u5939\u5929\u7b49\u4eba\u5de5\u4f5c \u7684\u542f\u53d1\uff0c\u672c\u6587\u7740\u91cd\u4e8e\u52a0\u5f3a\u5bf9\u4e09\u5143\u7ec4\u7684\u591a\u7c92\u5ea6\u8bed\u4e49\u7279\u5f81\u8868\u793a\uff0c\u91c7\u7528\u53cc\u7f16\u7801\u5c42\uff1a\u57fa\u4e8e\u5947\u5972\u5961\u5970\u5968 \u5954\u5972\u5961\u596e\u5973\u592d \u5966\u596f\u5972\u596d\u5965\u5972\u7684\u56fe\u7f16\u7801\u5c42\u548c\u57fa\u4e8e\u5942\u5945\u5952\u5954\u5928\u5944\u5965\u5976\u596c\u5969\u596e \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5939\u5929\u52a0\u5f3a\u7684\u8bcd\u7ea7\u7f16\u7801\u5c42\u3002\u672c\u6587\u9884\u5148\u5c06\u77e5\u8bc6\u5e93\u4e2d\u5b9e \u4f53\u3001\u5173\u7cfb\u6784\u6210\u77e5\u8bc6\u56fe\uff0c\u8d4b\u4e88\u5b9e\u4f53\u5168\u5c40\u5316\u7684\u8bed\u4e49\u5411\u91cf\uff0c\u7136\u540e\u9488\u5bf9\u8be5\u4e09\u5143\u7ec4\uff0c\u7ed3\u5408\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3 \u6784\u5928\u5956\u5961\u5973\u5977\u5961\u596e\u5969 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5937\u5929\u7684\u5e76\u884c\u6027\u5bf9\u8f93\u5165\u8282\u70b9\u8fdb\u884c\u7279\u5f81\u7ec6\u5316\u3002\u540c\u65f6\uff0c\u4e3a\u4e86\u5145\u5206\u5229\u7528\u8bcd\u8bed\u7c92\u5ea6 \u7684\u8bed\u4e49\u5411\u91cf\uff0c\u4e09\u5143\u7ec4\u7684\u8bcd\u8bed\u5e8f\u5217\u5148\u901a\u8fc7\u5942\u5945\u5952\u5954\u9884\u8bad\u7ec3\u6a21\u578b\u83b7\u53d6\u5411\u91cf\u8868\u5f81\uff0c\u518d\u4f7f\u7528\u53cc\u5411\u95e8\u63a7\u5faa \u73af\u5355\u5143\u5928\u5947\u5961\u5974\u5965\u5964 \u5952\u5965\u5963\u5975\u5972\u5972\u5965\u596e\u5974 \u5955\u596e\u5969\u5974\uff0c\u5947\u5952\u5955\u5929\u5928\u5943\u5968\u596f \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5934\u5929\u7f51\u7edc\u8ba1\u7b97\u4e0a\u4e0b\u6587\u5411\u91cf\u3002\u6700\u540e\uff0c\u672c\u6587\u5c06 \u4e24\u4e2a\u7f16\u7801\u5c42\u8054\u5408\u83b7\u5f97\u66f4\u5b8c\u5584\u7684\u4e09\u5143\u7ec4\u7279\u5f81\u8868\u793a\uff0c\u518d\u8f93\u5165\u89e3\u7801\u5c42\u751f\u6210\u95ee\u53e5\u3002\u672c\u6587\u5728\u82f1\u6587\u6570\u636e \u96c6\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u4e0a\u8fdb\u884c\u4e86\u5b9e\u9a8c\uff0c\u5b9e\u9a8c\u7684\u8bc4\u6d4b\u7ed3\u679c\u8868\u660e\u4e86\u8be5\u65b9\u6cd5\u7684\u6709\u6548\u6027\u3002 \u7efc\u4e0a\uff0c\u672c\u6587\u7684\u8d21\u732e\u5982\u4e0b\uff1a(\u5931)\u57fa\u4e8e\u77e5\u8bc6\u5e93\u7684\u5951\u5947\u6a21\u578b\uff0c\u672c\u6587\u7387\u5148\u63d0\u51fa\u4f7f\u7528\u57fa\u4e8e\u5947\u5972\u5961\u5970\u5968 \u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7684\u65b9\u6cd5\u4e3a\u5b9e\u4f53\u83b7\u53d6\u4e30\u5bcc\u7684\u80cc\u666f\u4fe1\u606f\u3002(\u5932)\u672c\u6587\u4e3a\u5b8c\u5584\u4e09\u5143\u7ec4\u7684\u7279\u5f81\u8868\u793a\u91c7\u7528\u56fe\u548c \u8bcd\u7ea7\u7684\u8868\u793a\uff0c\u7ed3\u5408\u77e5\u8bc6\u56fe\u548c\u5942\u5945\u5952\u5954\u5206\u522b\u8fdb\u884c\u521d\u59cb\u5316\uff0c\u518d\u7528\u795e\u7ecf\u7f51\u7edc\u5bf9\u5176\u6cdb\u5316\u3002(\u5933)\u81ea\u52a8\u8bc4\u6d4b\u548c \u4eba\u5de5\u8bc4\u4f30\u7684\u7ed3\u679c\u8868\u660e\uff0c\u672c\u6587\u6a21\u578b\u751f\u6210\u7684\u95ee\u9898\u4fe1\u606f\u91cf\u66f4\u4e30\u5bcc\u4e14\u8868\u8fbe\u5f62\u5f0f\u591a\u6837\u5316\u3002 2 \u6a21 \u6a21 \u6a21\u578b \u578b \u578b\u8bbe \u8bbe \u8bbe\u8ba1 \u8ba1 \u8ba1 \u4e3a\u4e86\u89e3\u51b3\u77e5\u8bc6\u5e93\u4e2d\u5355\u4e2a\u4e09\u5143\u7ec4\u5b58\u5728\u80cc\u666f\u4fe1\u606f\u91cf\u5c11\uff0c\u8bed\u4e49\u8868\u8fbe\u4e0d\u591f\u5b8c\u5584\u7b49\u95ee\u9898\uff0c\u53d7\u594b\u596f\u596e\u5963\u5965\u596c\u592d \u594b\u5965\u5964\u597a\u5969\u596f\u5972\u5973\u596b\u5969\u5928\u5932\u5930\u5931\u5939\u5929\u548c\u5943\u5961\u5969\u5928\u5932\u5930\u5931\u5939\u5929\u7b49\u4eba\u7684\u5de5\u4f5c\u542f\u53d1\uff0c\u672c\u6587\u91c7\u7528\u5177\u6709\u56fe\u795e\u7ecf\u7f51\u7edc\u7279\u5f81\u7684\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3 \u6784\u4f5c\u4e3a\u7f16\u7801\u5c42\uff0c\u7ed3\u5408\u4e86\u77e5\u8bc6\u56fe\u8c31\u5bf9\u5b9e\u4f53\u548c\u5173\u7cfb\u8fdb\u884c\u8868\u793a\uff0c\u4ee5\u56fe\u7684\u5f62\u5f0f\u4f5c\u4e3a\u8f93\u5165\uff0c\u5e76\u4e14\u8fd8\u4f7f \u7528\u5942\u5945\u5952\u5954\u9884\u8bad\u7ec3\u6a21\u578b\u83b7\u5f97\u8bcd\u8bed\u7684\u8bed\u4e49\u8868\u793a\u3002\u4e0e\u5953\u5965\u5971\u5932\u5953\u5965\u5971\u6a21\u578b\u7ed3\u5408\uff0c\u4ece\u800c\u9488\u5bf9\u4efb\u52a1\u76ee\u6807\u89c4\u8303\u9002\u5408\u672c \u6570\u636e\u96c6\u7684\u8bed\u4e49\u5411\u91cf\u8868\u793a\uff0c\u4ee5\u83b7\u5f97\u66f4\u51c6\u786e\u7684\u6f5c\u5728\u8bed\u4e49\uff0c\u4f7f\u5f97\u6a21\u578b\u751f\u6210\u7684\u95ee\u9898\u66f4\u52a0\u4e30\u5bcc\u6d41\u7545\u3002 2.1 \u6a21 \u6a21 \u6a21\u578b \u578b \u578b\u7ed3 \u7ed3 \u7ed3\u6784 \u6784 \u6784 Text of Triple BERT Text Encoder Graph Transformer Layer Normalization Attention Decoder Output \u8f93\u5165 \u7f16\u7801 \u89e3\u7801 \u8f93\u51fa \u56fe \u5931\u592e \u6a21\u578b\u7ed3\u6784\u56fe\uff0c\u53cc\u7f16\u7801\u5c42\u5728\u89e3\u7801\u7aef\u8fde\u63a5 \u672c\u8282\u5c06\u4ecb\u7ecd\u57fa\u4e8e\u5947\u5972\u5961\u5970\u5968 \u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u5928\u5947\u5954\u5929\u7684\u77e5\u8bc6\u5e93\u95ee\u9898\u751f\u6210\u6a21\u578b(\u7b80\u79f0\u5947\u5954\u592d\u594b\u5942\u5951\u5947)\u3002\u5947\u5954\u592d \u594b\u5942\u5951\u5947\u6a21\u578b\u7684\u7ed3\u6784\u5982\u56fe\u5931\u6240\u793a\uff0c\u7531\u4e09\u4e2a\u6a21\u5757\u7ec4\u6210\uff0c\u5206\u522b\u4e3a\u5947\u5954\u7f16\u7801\u5668\uff0c\u57fa\u4e8e\u5942\u5945\u5952\u5954\u9884\u5904\u7406\u7684\u6587 \u672c\u7f16\u7801\u5668\uff0c\u4ee5\u53ca\u57fa\u4e8e\u5941\u5974\u5974\u5965\u596e\u5974\u5969\u596f\u596e\u673a\u5236\u7684\u5947\u5952\u5955\u89e3\u7801\u5668\u3002\u5177\u4f53\u6765\u770b\uff0c\u9996\u5148\u4e09\u5143\u7ec4\u8fdb\u884c\u6784\u56fe\u9884\u5904\u7406\uff0c \u4e4b\u540e\u4f7f\u7528\u5947\u5954\u7f16\u7801\u5668\u5bf9\u4e09\u5143\u7ec4\u5728\u56fe\u4e2d\u7684\u5411\u91cf\u8868\u793ae triple \u593d \u5928e s , p r , e o \u5929\u8fdb\u884c\u7f16\u7801\uff0c\u540c\u65f6\u4ee5\u81ea\u7136\u8bed \u8a00\u6587\u672c\u5f62\u5f0f\u8868\u793a\u7684\u4e09\u5143\u7ec4w \u593d {w 1 , . . . , w i , . . . , w m }\u901a\u8fc7\u5942\u5945\u5952\u5954\u9884\u5904\u7406\u8f6c\u6362\u4e3a\u5411\u91cf\u5f62\u5f0fx w \u593d {x w 1 , . . . , x w i , . . . , x wm }\uff0c\u901a\u8fc7\u53cc\u5411\u5947\u5952\u5955\u7f16\u7801\u5668\u7f16\u7801\u3002\u7136\u540e\u5c06\u4ee5\u4e0a\u4e24\u4e2a\u7f16\u7801\u5c42\u7ed3\u679c\u8fdb\u884c\u7ed3\u5408\u4f5c\u4e3a \u89e3\u7801\u5668\u7684\u9690\u85cf\u5c42\u521d\u59cb\u5316\u72b6\u6001\uff0c\u89e3\u7801\u5668\u7ed3\u5408\u5941\u5974\u5974\u5965\u596e\u5974\u5969\u596f\u596e\u673a\u5236\u5928\u594c\u5975\u596f\u596e\u5967 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5935\u5929\u83b7\u5f97\u4e0a\u4e0b\u6587\u5411\u91cf\uff0c \u4ee5\u6b64\u52a0\u5f3a\u95ee\u9898\u7684\u751f\u6210\u6548\u679c\u3002 2.2 \u57fa \u57fa \u57fa\u4e8e \u4e8e \u4e8eGraph Transformer\u7684 \u7684 \u7684\u56fe \u56fe \u56fe\u7f16 \u7f16 \u7f16\u7801 \u7801 \u7801\u5c42 \u5c42 \u5c42 \u4e3a\u4e86\u8ba9\u5b9e\u4f53\u4e4b\u95f4\u66f4\u52a0\u7d27\u5bc6\u548c\u7ed3\u6784\u5316\uff0c\u6709\u5b66\u8005\u5c06\u5176\u6784\u6210\u56fe\u7684\u5f62\u5f0f(\u5b9e\u4f53\u4e3a\u7ed3\u70b9\uff0c\u5173\u7cfb\u4e3a \u8fb9)\uff0c\u5373\u77e5\u8bc6\u56fe\u8c31\u3002\u672c\u6587\u5229\u7528\u5df2\u6784\u6210\u7684\u77e5\u8bc6\u56fe\u8d4b\u4e88\u6570\u636e\u96c6\u4e2d\u7684\u4e09\u5143\u7ec4\u4e30\u5bcc\u7684\u80cc\u666f\u7f51\uff0c\u7ed3 \u5408\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3\u6784\uff0c\u5728\u4e30\u5bcc\u7684\u77e5\u8bc6\u80cc\u666f\u7f51\u4e2d\u6293\u53d6\u5bf9\u672c\u6570\u636e\u96c6\u9488\u5bf9\u4efb\u52a1\u6709\u5229\u7684\u8bed\u4e49\u4fe1\u606f\uff0c\u4f7f\u5b9e\u4f53 \u4e4b\u95f4\u83b7\u5f97\u66f4\u7d27\u5bc6\u7684\u5173\u7cfb\uff0c\u5355\u4e2a\u5b9e\u4f53\u7684\u8bed\u4e49\u5411\u91cf\u4e5f\u66f4\u52a0\u4e30\u5bcc\u3002 2.2.1 \u77e5 \u77e5 \u77e5\u8bc6 \u8bc6 \u8bc6\u6784 \u6784 \u6784\u56fe \u56fe \u56fe\u9884 \u9884 \u9884\u5904 \u5904 \u5904\u7406 \u7406 \u7406 \u82f1\u6587\u77e5\u8bc6\u5e93\u5946\u5972\u5965\u5965\u5942\u5961\u5973\u5965\u5928\u5942\u596f\u596c\u596c\u5961\u5963\u596b\u5965\u5972 \u5965\u5974", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": "e\u02b9 i-1 x L \u00ea i-1 \u56fe \u5932\u592e \u5947\u5972\u5961\u5970\u5968 \u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3\u6784 \u672c\u6587\u4f7f\u7528N \u5934\u6ce8\u610f\u529b\u673a\u5236\u5728\u56fe\u5932\u6240\u793a\u7684\u7f51\u7edc\u5757\u4e2d\u5806\u53e0L\u6b21\uff0c\u5728\u8f93\u5165\u6b8b\u5dee\u7f51\u7edc\u4e4b\u524d\u8fdb\u884c\u62fc \u63a5\u3002\u5947\u5972\u5961\u5970\u5968 \u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7684\u5177\u4f53\u8ba1\u7b97\u5982\u516c\u5f0f\u5928\u5931\u5929\u6240\u793a\uff1a \u595e e i \u593d e i \u592b || N j=1 attn j \u5928q i , k i \u5929v i \u5928\u5931\u5929 \u5728\u516c\u5f0f\u5928\u5931\u5929\u4e2d\uff0c\u5176\u4e2d||\u8868\u793aN \u4e2aattn\u7684\u8fde\u63a5\u64cd\u4f5c\u5928j \u2208 N \u5929\uff0cattn j \u4e3a\u70b9\u79ef\u8ba1\u7b97\uff0c\u5982\u516c\u5f0f\u5928\u5932\u5929\u6240\u793a\uff0c\u4e3a\u4e86 \u964d\u4f4e\u70b9\u79ef\u9020\u6210\u7684\u963b\u788d\u68af\u5ea6\u6d41\u7684\u8d8b\u52bf\uff0c\u53c2\u7167\u5956\u5961\u5973\u5977\u5961\u596e\u5969\u7b49\u4eba\u5928\u5932\u5930\u5931\u5937\u5929\u7684\u65b9\u6cd5\uff0c\u5c06\u7ed3\u679c\u7f29\u5c0f \u221a d k \u4e4b\u540e\u518d\u5229 \u7528sof tmax\u51fd\u6570\u8fdb\u884c\u5f52\u4e00\u5316\u3002 attn j \u5928q i , k i \u5929 \u593d sof tmax\u5928 q i k i \u221a d k \u5929 \u5928\u5932\u5929 \u516c\u5f0f\u5928\u5931\u5929\u548c\u516c\u5f0f\u5928\u5932\u5929\u4e2d\u51fa\u73b0\u7684q i \uff0ck i \uff0cv i \u662f\u7b2ci\u5928i<L\u5929\u4e2a\u5806\u53e0\u5757\u5bf9\u8f93\u5165\u8fdb\u884c\u7ebf\u6027\u53d8\u6362\u540e\u7684d k \u7ef4\u7684\u5411\u91cf \u8868\u793a\uff0c\u5982\u516c\u5f0f\u5928\u5933\u5929\u6240\u793a\u3002 \uf8f1 \uf8f4 \uf8f2 \uf8f4 \uf8f3 q i \u593d e i W q i k i \u593d e i W k i v i \u593d e i W v i \u5928\u5933\u5929 \u5176\u4e2de i \u7531\u7b2ci \u2212 \u5931\u5c42\u7b2c\u4e8c\u4e2aLN \u5c42\u6807\u51c6\u5316\u8ba1\u7b97\u5f97\u6765\uff0c\u5373\u4e3a\u7b2ci\u5c42\u7684\u8f93\u5165\u592c\u5176\u4e2dLN \u4e3a\u6807\u51c6\u5316\u5c42\u3002\u901a\u8fc7 \u5757\u72b6\u7f51\u7edc\u6269\u5c55\u591a\u5934\u6ce8\u610f\u529b\u5c42\uff0c\u5982\u56fe\u5932\u6240\u793a\uff0c\u6bcf\u4e2a\u5757\u72b6\u7f51\u7edc\u90fd\u5177\u6709\u8854\u63a5\u5c42\u8f6c\u6362\uff0c\u5982\u516c\u5f0f\u5928\u5934\u5929\u548c\u5928\u5935\u5929\u6240 \u793a\uff1a e i \u593d F", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": ".. ", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": "E 1 ... E 2 E 3 E m ... w 1 w 2 w 3 w m x w1 x w2 x w3 x wm ... ... E 1 \uff1a\u4ee3\u8868\u8f93\u5165\u7279\u5f81\u8868\u793a Trm \uff1a\u4ee3\u8868Transformer\u7684\u7f16 \u7801\u5c42\u7ed3\u6784 \u56fe \u5933\u592e \u5942\u5945\u5952\u5954\u9884\u5904\u7406\u7ed3\u6784\u56fe \u5728\u5932\u5930\u5931\u5938\u5e74\uff0c\u594a\u5961\u5963\u596f\u5962 \u5944\u5965\u5976\u596c\u5969\u596e\u7b49\u4eba\u5928\u5944\u5965\u5976\u596c\u5969\u596e \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5939\u5929\u63d0\u51fa\u5942\u5945\u5952\u5954\u9884\u8bad\u7ec3\u6a21\u578b\u5728\u594e\u594c\u5950\u9886\u57df\u83b7\u5f97\u6781 \u5927\u7684\u53cd\u54cd\uff0c\u5728\u9884\u8bad\u7ec3\u548c\u7cbe\u8c03\u4e0b\uff0c\u5237\u65b0\u4e86\u5341\u591a\u9879\u594e\u594c\u5950\u4efb\u52a1\u7684\u8bb0\u5f55\u3002\u5942\u5945\u5952\u5954\u662f\u57fa\u4e8e\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3\u6784 \u7684\u5945\u596e\u5963\u596f\u5964\u5965\u5972\uff0c\u5176\u5e76\u884c\u7ed3\u6784\u64c5\u957f\u6355\u6349\u957f\u8ddd\u79bb\u4f9d\u8d56\uff0c\u907f\u514d\u4e86\u5952\u594e\u594e\u7684\u987a\u5e8f\u7ed3\u6784\u5e26\u6765\u7684\u7f3a\u70b9\u3002\u5942\u5945\u5952\u5954\u4e3a \u53cc\u5411\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3\u6784\uff0c\u672a\u6807\u8bb0\u6587\u672c\u7684\u6df1\u5c42\u53cc\u5411\u8868\u793a\u7531\u6240\u6709\u5c42\u7684\u53cc\u5411\u4e0a\u4e0b\u6587\u4e0a\u5171\u540c\u8fdb\u884c\u6761\u4ef6 \u5316\u6765\u9884\u8bad\u7ec3\u3002\u4e0e\u5df2\u63d0\u51fa\u7684\u9884\u8bad\u7ec3\u6a21\u578b\u76f8\u6bd4\uff0c\u7ecf\u8fc7\u5de8\u91cf\u8bed\u6599\u8bad\u7ec3\u7684\u5942\u5945\u5952\u5954\u5177\u6709\u6355\u6349\u5230\u771f\u6b63\u610f \u4e49\u4e0a\u7684\u53cc\u5411\u4e0a\u4e0b\u6587\u4fe1\u606f\u7684\u80fd\u529b\u3002\u7531\u4e8e\u5942\u5945\u5952\u5954\u7684\u51fa\u8272\u8868\u73b0\uff0c\u5728\u5950\u5979\u5974\u5968\u596f\u596e\u5e93\u4e2d\u5df2\u7ecf\u6536\u7eb3\u6574\u7406\u4e86\u53ef \u4ee5\u8c03\u7528\u7684\u5942\u5945\u5952\u5954\u51fd\u6570\u5e93\uff0c\u4f7f\u7528\u8005\u5b89\u88c5\u597d\u5942\u5945\u5952\u5954\u73af\u5883 1 \uff0c\u518d\u81ea\u884c\u5c06\u6240\u9700\u6570\u636e\u653e\u5165\u5c31\u53ef\u4ee5\u76f4\u63a5\u4f7f \u7528\u3002\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u6570\u636e\u96c6\u4e2d\u5b9e\u4f53\u539f\u59cb\u4e3a\u72ec\u7acb\u7684\u5969\u5964\u5f62\u5f0f\uff0c\u800c\u5728\u76ee\u6807\u95ee\u9898\u4e2d\u4e3a\u81ea\u7136\u8bed\u8a00\u7684\u5355\u8bcd\u5f62 \u5f0f\u8868\u793a\uff0c\u4e14\u5969\u5964\u5f62\u5f0f\u5c3d\u7ba1\u53ef\u4ee5\u5c55\u73b0\u51fa\u5b9e\u4f53\u7684\u552f\u4e00\u6027\uff0c\u4f46\u5b9e\u4f53\u7684\u63cf\u8ff0\u8bcd\u8bed\u4e2d\u4f1a\u51fa\u73b0\u4e00\u4e9b\u8bed\u4e49\u76f8\u901a\u7684 \u8bcd\u6c47\u6709\u52a9\u4e8e\u95ee\u9898\u7684\u751f\u6210\uff0c\u6240\u4ee5\u672c\u8282\u4e5f\u5c06\u4e09\u5143\u7ec4\u7684\u81ea\u7136\u8bed\u8a00\u5f62\u5f0f\u4f5c\u4e3a\u6a21\u578b\u8f93\u5165\u7684\u4e00\u90e8\u5206\u3002\u672c\u6587\u4e3b \u8981\u8003\u8651\u901a\u8fc7\u8868\u73b0\u826f\u597d\u7684\u8bed\u4e49\u8868\u793a\u6765\u751f\u6210\u95ee\u53e5\uff0c\u4ee5\u6b64\u6765\u9a8c\u8bc1\u8fd9\u4e9b\u8868\u793a\u662f\u5426\u5728\u672c\u4efb\u52a1\u6709\u6548\u3002\u8003\u8651 \u5230\u5942\u5945\u5952\u5954\u5728\u7f16\u7801\u65b9\u9762\u7684\u4f18\u5f02\u6210\u7ee9\uff0c\u672c\u6587\u7528\u5176\u6355\u6349\u8bcd\u8bed\u7ea7\u522b\u7684\u8868\u793a\u3002 \u7531\u4e0a\u6587\u53ef\u4ee5\u4e86\u89e3\u5230\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u64c5\u957f\u6355\u6349\u957f\u8ddd\u79bb\u4fe1\u606f\u9002\u7528\u4e8e\u957f\u6587\u672c\u4efb\u52a1\uff0c\u5b9e\u4f53\u5bf9\u5e94\u4e8e\u79d1\u5b66\u672f \u8bed\uff0c\u7531\u591a\u4e2a\u8bcd\u6765\u8868\u8fbe\u7684\uff0c\u4e09\u5143\u7ec4\u7684\u8bcd\u7ec4\u8f93\u5165\u4e3a\u77ed\u5b57\u7b26\u4e32\uff0c\u56e0\u6b64\u6211\u4eec\u91c7\u7528\u53cc\u5411\u5947\u5952\u5955\u8fdb\u884c\u7f16\u7801\u6765\u5d4c \u5165\u4e09\u5143\u7ec4\u7684\u8bcd\u8bed\u7c92\u5ea6\u8868\u793a\u3002\u6211\u4eec\u901a\u8fc7\u5942\u5945\u5952\u5954\u9884\u5904\u7406\u6cdb\u5316\u6bcf\u4e2a\u8bcd\u7684\u5d4c\u5165\u5411\u91cf\u7684\u8bed\u4e49\u4fe1\u606f\uff0c\u518d\u91c7\u7528 \u53cc\u5411\u5947\u5952\u5955\u7684\u6700\u540e\u4e00\u4e2a\u9690\u85cf\u72b6\u6001\u4f5c\u4e3a\u6bcf\u4e2a\u8bcd\u751f\u6210\u5964\u7ef4\u5d4c\u5165\uff0c\u8be5\u72b6\u6001\u4f4d\u4e8e\u5b9e\u4f53\u8bcd\u7ec4\u4e2d\u6bcf\u4e2a\u8bcd\u7684\u5d4c\u5165 \u4e4b\u4e0a\u7684\u3002 \u5982\u56fe\u5933\u6240\u793a\uff0c\u6bcf\u4e2a\u8f93\u5165\u4e09\u5143\u7ec4\u8868\u793a\u4e3a\u5355\u8bcd\u578b\u5e8f\u5217w \u593d {w 1 , . . . , w i , . . . , w m }\uff0c\u8c03\u7528\u5942\u5945\u5952\u5954\u51fd \u6570 \u8fdb \u884c \u9884 \u5904 \u7406 \u7f16 \u7801 \u5f97 \u5230 \u7ef4 \u5ea6 \u4e00 \u81f4 \u7684 \u5411 \u91cf \u77e9 \u9635x w \u593d {x w 1 , . . . , x w i , . . . , x wm }\u3002 \u7136 \u540e \uff0c \u5c06 \u7ecf \u8fc7\u5942\u5945\u5952\u5954\u9884\u5904\u7406\u540e\u7684\u8bed\u4e49\u5411\u91cf\u8f93\u5165\u6587\u672c\u7f16\u7801\u5668\u4e2d\uff0c\u5373\u56fe\u5931\u7684\u8bcd\u7ea7\u7f16\u7801\u5668\u5928\u5954\u5965\u5978\u5974 \u5945\u596e\u5963\u596f\u5964\u5965\u5972\u5929\uff0c\u5176\u7531 \u53cc\u5411\u5947\u5952\u5955\u5bf9x w \u8fdb\u884c\u6b63\u5411\u548c\u53cd\u5411\u8bfb\u53d6\u6765\u6293\u53d6\u8f93\u5165\u5e8f\u5217x w \u7684\u6709\u6548\u8bed\u4e49\u4fe1\u606f\uff0c\u8be6\u7ec6\u7ed3\u6784\u5982\u56fe\u5934\u6240\u793a\u3002 \u516c\u5f0f\u5928\u5938\u5929\u548c\u5928\u5939\u5929\u53ef\u8868\u793a\u8be5\u8fc7\u7a0b\u3002 \u2212 \u2192 h i \u593d GRU \u5928 \u2212 \u2192 h i\u22121 , x w i \u5929 \u5928\u5938\u5929 \u2190 \u2212 h i \u593d GRU \u5928 \u2190 \u2212 h i+1 , x w i \u5929 \u5928\u5939\u5929 x w1 ... ... x w2 x w3 x wm \u53cc\u5411GRU h 1 h 2 h 3 h m ... ... \u56fe \u5934\u592e \u5954\u5965\u5978\u5974 \u5945\u596e\u5963\u596f\u5964\u5965\u5972\u7ed3\u6784\u56fe \u5176\u4e2d \u2212 \u2192 h i \u548c \u2190 \u2212 h i \u5206\u522b\u4e3a\u6b63\u5411\u4e0e\u53cd\u5411\u7684\u9690\u85cf\u72b6\u6001\u8868\u793a\uff0c\u518d\u5c06\u6bcf\u4e00\u6b65\u7684\u6b63\u53cd\u9690\u85cf\u72b6\u6001\u62fc\u63a5\uff0c\u5f97\u5230 \u6574\u5408\u7684\u9690\u85cf\u5c42\u72b6\u6001h \u593d {h 1 , . . . , h i , . . . , h m }\u4f5c\u4e3a\u6700\u540e\u7684\u7f16\u7801\u5c42\u8f93\u51fa\uff0c\u5176\u4e2dh i \u593d \u595b \u2212 \u2192 h i \u593b \u2190 \u2212 h i \u595d\u3002 \u672c\u6587\u5c06e N \u548ch\u62fc\u63a5\u4f5c\u4e3a\u591a\u7f16\u7801\u5c42\u7684\u6700\u7ec8\u8f93\u51fa \u597e h \u593d \u595be N \u593b h\u593b e N \u595d\u3002\u9009\u62e9\u56fe\u7f16\u7801\u5c42\u7684\u6700\u540e\u4e00\u5c42\u7684\u8f93 \u51fae N \u548c\u5954\u5965\u5978\u5974 \u5945\u596e\u5963\u596f\u5964\u5965\u5972\u7684\u6700\u540e\u4e00\u5c42\u9690\u85cf\u72b6\u6001h m \u7ecf\u8fc7\u516c\u5f0f\u5928\u5931\u5930\u5929\u6210\u4e3a\u89e3\u7801\u5c42\u7684\u9690\u85cf\u72b6\u6001\u7684\u521d\u59cb\u5316\u503c\u3002 s 0 \u593d ReLU \u5928\u595be N \u593b h m \u595dW s \u5929 \u5928\u5931\u5930\u5929 2.4 \u57fa \u57fa \u57fa\u4e8e \u4e8e \u4e8eAttention\u673a \u673a \u673a\u5236 \u5236 \u5236\u7684 \u7684 \u7684GRU\u89e3 \u89e3 \u89e3\u7801 \u7801 \u7801\u5c42 \u5c42 \u5c42 \u672c\u6587\u7684\u89e3\u7801\u5668\u7528\u6765\u9884\u6d4b\u751f\u6210\u8bed\u4e49\u4e0a\u6d41\u5229\u4e14\u5408\u9002\u7684\u7b80\u5355\u95ee\u9898\uff0c\u7531\u4e8e\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7684\u5e76\u884c\u7ed3\u6784\u6027 \u80fd\u6548\u679c\u975e\u5e38\u597d\uff0c\u6211\u4eec\u89c2\u5bdf\u4e86\u5728\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3\u6784\u4e0a\u7684\u4efb\u52a1\uff0c\u53d1\u73b0\u7531\u4e8e\u4f18\u826f\u7684\u5e76\u884c\u7ed3\u6784\u4f7f\u5f97\u6a21\u578b\u8ba1 \u7b97\u65f6\u5b58\u5728\u6ce8\u610f\u529b\u8fc7\u957f\uff0c\u5bfc\u81f4\u4e86\u751f\u6210\u7684\u5e8f\u5217\u4e2d\u51fa\u73b0\u4e0e\u5bf9\u5e94\u8f93\u5165\u4e0d\u76f8\u5173\u7684\u8bcd\u6c47\u3002\u7531\u4e8e\u672c\u6587\u4efb\u52a1\u751f\u6210 \u7b80\u5355\u95ee\u9898\uff0c\u800c\u975e\u957f\u5e8f\u5217\uff0c\u987a\u5e8f\u7ed3\u6784\u7684\u5952\u594e\u594e\u7c7b\u7f51\u7edc\u6bcf\u6b65\u7684\u9884\u6d4b\u8ba1\u7b97\u90fd\u4f9d\u8d56\u4e0a\u4e00\u6b65\u7684\u8f93\u51fa\uff0c\u5176\u8fc7\u7a0b \u66f4\u8d34\u5408\u672c\u6587\u7684\u4efb\u52a1\u76ee\u6807\u3002\u56e0\u6b64\uff0c\u672c\u6587\u4f7f\u7528\u57fa\u4e8e\u6ce8\u610f\u529b\u673a\u5236\u7684\u5947\u5952\u5955\u4f5c\u4e3a\u89e3\u7801\u5668\u3002\u751f\u6210\u7b2ct\u4e2a\u5355\u8bcd \u7684\u6982\u7387\u5206\u5e03\u7531\u516c\u5f0f\u5928\u5931\u5931\u5929\u6240\u793a\u3002 p\u5928y t |y \u2264t , x w \u5929 \u593d sof tmax\u5928W o s t \u5929 \u5928\u5931\u5931\u5929 \u5176\u4e2d\uff0cs t \u662f\u7ecf\u8fc7\u6ce8\u610f\u529b\u673a\u5236\u4e4b\u540e\u7684t\u65f6\u523b\u9690\u85cf\u72b6\u6001\uff0c\u5176\u7531\u4e0a\u4e0b\u6587\u5411\u91cfc t \u548c\u5947\u5952\u5955\u8ba1\u7b97\u5f97\u5230\u7684\u9690\u85cf\u72b6 \u6001s t \u8fdb\u884c\u8ba1\u7b97\u5f97\u5230\uff0c\u5982\u516c\u5f0f\u5928\u5931\u5932\u5929\u6240\u793a\u3002 s t \u593d tanh\u5928W a \u595bc t \u593b s t \u595d\u5929 \u5928\u5931\u5932\u5929 \u5f53\u524dt\u65f6\u523b\u7684\u9690\u85cf\u72b6\u6001s t \u548c\u901a\u8fc7\u6ce8\u610f\u529b\u673a\u5236\u8ba1\u7b97\u4e0a\u4e0b\u6587\u5411\u91cfc t \u7684\u8be6\u7ec6\u8ba1\u7b97\u7531\u516c\u5f0f\u5928\u5931\u5933\u5929\u548c\u516c\u5f0f\u5928\u5931\u5934\u5929\u7ed9 \u51fa\u3002 s t \u593d GRU \u5928y t\u22121 , c t\u22121 , s t\u22121 \u5929 \u5928\u5931\u5933\u5929 c t \u593d m+2 r=1 \u03b1 t \u597e h r \u5928\u5931\u5934\u5929 \u5176\u4e2d\uff0c\u03b1 t \u4e3a\u7b2ct\u65f6\u95f4\u6b65\u7684\u5bf9\u9f50\u5411\u91cf\uff0c\u8be6\u7ec6\u8ba1\u7b97\u53c2\u7167\u516c\u5f0f\u5928\u5931\u5935\u5929\u3002 \u03b1 t \u593d \u5965\u5978\u5970\u5928s t \u597e h\u5929 m+2 r=1 \u5965\u5978\u5970\u5928s t \u597e h r \u5929 \u5928\u5931\u5935\u5929 \u4e3a\u4e86\u4fdd\u8bc1\u751f\u6210\u95ee\u53e5\u65f6\u53e5\u5b50\u4e3b\u8bed\u7684\u5b8c\u6574\u6027\uff0c\u672c\u6587\u91c7\u7528\u6a21\u677f\u65b9\u6cd5\uff0c\u5c06\u4e3b\u8bed\u7528\u5360\u4f4d\u7b26\u8868\u793a\uff0c\u5728\u5b8c\u6210\u9884 \u6d4b\u4e4b\u540e\uff0c\u518d\u5c06\u95ee\u9898\u5bf9\u5e94\u7684\u4e09\u5143\u7ec4\u4e3b\u8bed\u8865\u5145\u4e0a\u53bb\u3002 3 \u5b9e \u5b9e \u5b9e\u9a8c \u9a8c \u9a8c\u7ed3 \u7ed3 \u7ed3\u679c \u679c \u679c\u4e0e \u4e0e \u4e0e\u5206 \u5206 \u5206\u6790 \u6790 \u6790 3.1 \u5b9e \u5b9e \u5b9e\u9a8c \u9a8c \u9a8c\u6570 \u6570 \u6570\u636e \u636e \u636e \u672c \u6587 \u4f7f \u7528 \u4e86 \u5177 \u6709\u5969\u5964\u5f62 \u5f0f \u7684 \u82f1 \u6587 \u6570 \u636e \u96c6\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\uff0c \u8868\u5931\u6240 \u793a \u4e3a \u6587 \u672c \u4e0e\u5969\u5964\u5f62 \u5f0f \u7684 \u95ee \u7b54 \u5bf9 \u793a \u4f8b \u3002 \u672c \u6587 \u7684 \u8f93 \u5165 \u5206 \u4e3a \u4e24 \u90e8 \u5206 \uff0c \u5176 \u4e00 \u4e3a \u5bf9 \u4e09 \u5143 \u7ec4 \u8fdb \u884c \u6784 \u56fe \u9884 \u5904 \u7406 \u4e4b \u540e \u7684 \u5b9e \u4f53\u592d\u5173 \u7cfb \u7684 \u5411 \u91cf \u8868 \u5f81 \u3002 \u5728 \u5b9e \u9a8c \u8fc7 \u7a0b \u4e2d \uff0c \u5bf9 \u8f93 \u5165 \u4e09 \u5143 \u7ec4 \u8fdb \u884c \u6784 \u56fe \u64cd \u4f5c \uff0c\u5946\u5972\u5965\u5965\u5942\u5961\u5973\u5965\u88ab \u89c6 \u4e3a \u53ef \u9760 \u7684 \u77e5 \u8bc6 \u5e93 \uff0c\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u4e2d \u6240 \u6709 \u7684 \u4e8b \u5b9e \u90fd \u662f \u57fa \u4e8e\u5946\u5972\u5965\u5965\u5942\u5961\u5973\u5965\u7684 \u3002 \u7531 \u4e8e\u5946\u5972\u5965\u5965\u5942\u5961\u5973\u5965\u89c4 \u6a21 \u5de8 \u5927 \uff0c \u6545 \u5728 \u4e00 \u4e9b \u7814 \u7a76 \u5de5 \u4f5c \u4e2d \uff0c \u5bf9\u5946\u5972\u5965\u5965\u5942\u5961\u5973\u5965\u5b9e \u884c \u5b50 \u96c6 \u63d0 \u53d6 \uff0c \u5982\u5946\u5942\u5932\u594d\u3001\u5946\u5942\u5935\u594d\u7b49 \u3002\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u4e2d \u7684 \u4e09 \u5143 \u7ec4\u53ef\u5728\u5946\u5972\u5965\u5965\u5942\u5961\u5973\u5965\u7684\u5b50\u96c6\u5946\u5942\u5932\u594d\u91cc\u67e5\u8be2\u5230\uff0c\u6545\u672c\u6587\u9009\u53d6\u5948\u5975\u5961\u596e\u5967\u7b49\u4eba\u5928\u5932\u5930\u5931\u5939\u5929\u6240\u63d0\u4f9b\u7684\u57fa\u4e8e\u5946\u5942\u5932\u594d\u8bad \u7ec3\u5954\u5972\u5961\u596e\u5973\u5945\u5f97 \u5230 \u56fe \u5d4c \u5165 \u4f5c \u4e3a \u672c \u6587\u594b\u5947\u592d\u5945\u596d\u5962\u3002 \u8868\u5932\u5217 \u51fa \u4e86\u5946\u5942\u5932\u594d\u4e0e\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u4e24 \u8005 \u7684 \u5177 \u4f53", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": "\u8868 \u5932\u592e \u6570\u636e\u96c6\u7edf\u8ba1\u4fe1\u606f 3.2 \u8bc4 \u8bc4 \u8bc4\u4ef7 \u4ef7 \u4ef7\u6807 \u6807 \u6807\u51c6 \u51c6 \u51c6 \u672c \u6587 \u4f7f \u7528 \u4e86 \u4e00 \u7ec4 \u5728 \u81ea \u7136 \u8bed \u8a00 \u5904 \u7406 \u9886 \u57df \u4e2d \u8f83 \u4e3a \u5b8c \u5584 \u7684 \u81ea \u52a8 \u8bc4 \u4f30 \u6307 \u6807 \u6765 \u8bc4 \u6d4b \u6a21 \u578b \u6548 \u679c \uff1a\u5942\u594c\u5945\u5955\u5928\u5950\u5961\u5970\u5969\u596e\u5965\u596e\u5969", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": "\u8868 \u5933\u592e \u5942\u594c\u5945\u5955\u503c\u5f97\u5206\u4e3e\u4f8b\uff0c\u8868\u4e2d\u5942\u594c\u5945\u5955\u5206\u6570\u503c\u4e3a\u5942\u594c\u5945\u5955\u592d\u5931\u81f3\u5942\u594c\u5955\u5945\u592d\u5934\u7684\u5f97\u5206\u5747\u503c \u4eba \u4eba \u4eba\u5de5 \u5de5 \u5de5\u8bc4 \u8bc4 \u8bc4\u4f30 \u4f30 \u4f30(Human Evaluation)\uff1a\u5c3d\u7ba1\u81ea\u52a8\u8bc4\u6d4b\u5728\u67d0\u79cd\u7a0b\u5ea6\u6765\u8bf4\u53ef\u4ee5\u4f30\u91cf\u751f\u6210\u7684\u95ee\u53e5\u4e0e\u53c2 \u8003\u95ee\u53e5\u6709\u591a\u76f8\u8fd1\uff0c\u4f46\u662f\u5f53\u8bed\u4e49\u76f8\u8fd1\u800c\u8bed\u6cd5\u8868\u8fbe\u7ed3\u6784\u4e0a\u4e0d\u540c\u65f6\uff0c\u8bb8\u591a\u9690\u85cf\u7740\u7684\u9650\u5236\u5c31\u663e\u793a\u51fa\u6765 \u4e86\u3002\u7531\u4e00\u4e2a\u76ee\u6807\u95ee\u53e5\u548c\u4e24\u4e2a\u6a21\u578b\u9884\u6d4b\u7684\u95ee\u53e5\u7ec4\u6210\u7684\u4e00\u4e2a\u4f8b\u5b50\u53ef\u4ee5\u66f4\u6e05\u695a\u7684\u8bf4\u660e\u8fd9\u4e2a\u95ee\u9898\uff0c\u5982 \u8868\u5933\u3002\u5c3d\u7ba1\u8868\u4e2d\u7684\u4e09\u4e2a\u53e5\u5b50\u5728\u8bed\u4e49\u8868\u8fbe\u65b9\u9762\u7c7b\u4f3c\uff0c\u4f46\u662f\u5229\u7528\u81ea\u52a8\u8bc4\u6d4b\u6807\u51c6\u6765\u5ea6\u91cf\u65f6\u5206\u6570\u5dee\u8ddd\u5374\u6709 \u5c06\u8fd1\u5932\u5930\u4e2a\u767e\u5206\u70b9\u3002\u6b64\u5916\uff0c\u81ea\u52a8\u8bc4\u6d4b\u4e5f\u4e0d\u80fd\u786e\u5b9a\u662f\u5426\u6709\u4e09\u5143\u7ec4\u4e2d\u76f8\u5173\u7684\u5173\u7cfb\u8bcd\u51fa\u73b0\u5728\u9884\u6d4b\u7684\u95ee\u53e5 \u4e2d\u3002\u6b64\u65f6\uff0c\u4eba\u5de5\u6765\u8bc4\u6d4b\u7ed9\u51fa\u53e5\u5b50\u7684\u6d41\u7545\u5ea6\u4e0e\u76f8\u5173\u5ea6\u662f\u5fc5\u4e0d\u53ef\u5c11\u7684\u3002 3.3 \u57fa \u57fa \u57fa\u51c6 \u51c6 \u51c6\u6a21 \u6a21 \u6a21\u578b \u578b \u578b \u672c \u6587 \u505a \u4e86 \u591a \u4e2a \u5bf9 \u6bd4 \u5b9e \u9a8c \u8bc1 \u660e \u63d0 \u51fa \u65b9 \u6cd5 \u7684 \u6709 \u6548 \u6027 \uff0c \u5177 \u4f53 \u7684 \u5bf9 \u6bd4 \u6a21 \u578b \u5982 \u4e0b \u8be6 \u91ca \uff0c\u595a\u5965\u5972\u596f\u592d \u5973\u5968\u596f\u5974\u4e0e\u5945\u596e\u5963\u592d\u5944\u5965\u5963\u6a21\u578b\u7684\u8ba1\u7b97\u4ee5\u53ca\u9884\u5904\u7406\u4fdd\u6301\u4e0e\u539f\u59cb\u6587\u7ae0\u4e00\u81f4\uff0c\u5176\u4f59\u6a21\u578b\u4fdd\u6301\u4e0e\u672c\u6587\u4e00\u81f4\u7684\u9884 \u5904\u7406\uff0c\u4f46\u4e0d\u52a0\u5165\u56fe\u5c42\u6b21\u7684\u7f16\u7801\u5c42\u3002 Transformer\u5928\u5956\u5961\u5973\u5977\u5961\u596e\u5969 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5937\u5929\uff1a\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u662f\u5f53\u524d\u5728\u673a\u5668\u7ffb\u8bd1\u4efb\u52a1\u4e0a\u975e\u5e38\u706b\u70ed\u7684\u6a21 \u578b\u3002\u672c\u6587\u4f7f\u7528\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u4f5c\u4e3a\u4e00\u4e2a\u5bf9\u6bd4\u5b9e\u9a8c\uff0c\u89c2\u5bdf\u5b83\u5728\u6b64\u6587\u4efb\u52a1\u4e2d\u7684\u8868\u73b0\u3002 Zero-shot\u5928\u5945\u596c\u5953\u5961\u5968\u5961\u5972 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5938\u5929\uff1a\u595a\u5965\u5972\u596f\u592d\u5973\u5968\u596f\u5974\u5229\u7528\u7279\u6b8a\u6807\u8bc6\u7b26\u66ff\u4ee3\u5173\u7cfb\u8bcd\u4ee5\u89e3\u51b3\u5728\u6d4b\u8bd5\u96c6\u53ef \u80fd\u51fa\u73b0\u7684\u5728\u8bad\u7ec3\u96c6\u91cc\u672a\u51fa\u73b0\u7684\u5173\u7cfb\u8bcd\u7684\u95ee\u53e5\u3002\u5728\u8be5\u6a21\u578b\u4e2d\uff0c\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u6570\u636e\u96c6\u4e09\u5143\u7ec4\u7684\u5b9e \u4f53\u548c\u5173\u7cfb\u4ee5\u5954\u5972\u5961\u596e\u5973\u5945\u5d4c\u5165\u4e3a\u521d\u59cb\u5316\u3002 Enc-Dec\u5928\u5953\u5965\u5972\u5962\u5961\u596e \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5936\u5929\uff1a\u5945\u596e\u5963\u592d\u5944\u5965\u5963\u662f\u6839\u636e\u5953\u5965\u5972\u5962\u5961\u596e\u7b49\u4eba\u7684\u5de5\u4f5c\u6765\u5b9e\u73b0\u7684\u3002\u672c\u6587\u53ea\u4f7f\u7528 \u4e86\u5355\u5360\u4f4d\u7b26\uff0c\u5953\u5965\u5972\u5962\u5961\u596e\u7b49\u4eba\u8fd8\u4f7f\u7528\u4e86\u591a\u7c7b\u5360\u4f4d\u7b26(\u594d\u5950)\u4f5c\u4e3a\u8f93\u5165\u5e8f\u5217\uff0c\u4f46\u7531\u4e8e\u5728\u6587\u7ae0\u4e2d\u5e76\u6ca1\u6709 \u5c06\u8fd9\u4e9b\u5360\u4f4d\u7b26\u7684\u7c7b\u522b\u7f57\u5217\u51fa\u6765\uff0c\u5e76\u4e14\u594d\u5950\u6240\u5e26\u6765\u7684\u8d21\u732e\u5e76\u4e0d\u5927\uff0c\u6545\u672c\u6587\u7684\u5b9e\u9a8c\u65b9\u6cd5\u4e2d\uff0c\u4e0d\u80fd\u62a5 \u544a\u4ee5\u594d\u5950\u4f5c\u4e3a\u8f93\u5165\u7684\u5b9e\u9a8c\u7ed3\u679c\u3002 CopyNet\u5928\u5957\u5961\u596e\u5967 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5938\u5929\uff1a\u5957\u5961\u596e\u5967\u7b49\u4eba\u5928\u5932\u5930\u5931\u5938\u5929\u5728\u57fa\u4e8e\u77e5\u8bc6\u5e93\u7684\u5951\u5947\u4efb\u52a1\u4e0a\u878d\u5165\u4e86\u590d\u5236\u673a \u5236\uff0c\u672c\u6587\u590d\u73b0\u4e86\u878d\u5408\u590d\u5236\u673a\u5236\u7684\u5943\u596f\u5970\u5979\u594e\u5965\u5974\u6a21\u578b\u3002 3.4 \u5b9e \u5b9e \u5b9e\u9a8c \u9a8c \u9a8c\u8bbe \u8bbe \u8bbe\u7f6e \u7f6e \u7f6e \u672c\u6587\u4f7f\u7528\u591a\u7f16\u7801\u5c42\uff0c\u5728\u5355\u8bcd\u7c92\u5ea6\u4e0a\u7684\u7f16\u7801\u5668\u4f7f\u7528\u53cc\u5411\u5947\u5952\u5955\u7ed3\u6784\uff0c\u6bcf\u4e2a\u5947\u5952\u5955\u9690\u85cf\u8282\u70b9\u6570 \u4e3a\u5935\u5930\u5930\uff0c\u7531\u5942\u5945\u5952\u5954\u521d\u59cb\u5316\u8bcd\u5411\u91cf\uff0c\u7ef4\u5ea6\u4e3a\u5937\u5936\u5938\uff1b\u57fa\u4e8e\u56fe\u7684\u7f16\u7801\u5668\u4f7f\u7528\u5935\u4e2a\u591a\u5934\u6ce8\u610f\u529b\u673a\u5236\u548c\u5934\u4e2a \u5faa \u73af \u5757 \u7684\u5954\u5972\u5961\u596e\u5973\u5966\u596f\u5972\u596d\u5965\u5972\u7ed3 \u6784 \uff0c \u4f7f \u7528\u5954\u5972\u5961\u596e\u5973\u5945\u5bf9 \u4e09 \u5143 \u7ec4 \u8fdb \u884c \u6784 \u56fe \u521d \u59cb \u5316 \uff0c \u7ef4 \u5ea6 \u4e3a\u5932\u5935\u5930\u3002 \u89e3 \u7801 \u5668 \u4f7f \u7528\u7ed3\u5408\u5941\u5974\u5974\u5965\u596e\u5974\u5969\u596f\u596e\u7684\u5355\u5c42\u5947\u5952\u5955\u7ed3\u6784\uff0c\u6bcf\u4e2a\u5947\u5952\u5955\u9690\u85cf\u8282\u70b9\u6570\u4e3a\u5931\u5930\u5930\u5930\uff0c\u7528\u5947\u596c\u596f\u5956\u5965\u5928\u5950\u5965\u596e\u596e\u5969\u596e\u5967\u5974\u596f\u596e \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5934\u5929\u9884 \u8bad \u7ec3 \u597d \u8bcd \u5d4c \u5165 \u5bf9 \u8bcd \u5411 \u91cf \u521d \u59cb \u5316 \u3002 \u672c \u6587 \u57fa \u4e8e\u5954\u5965\u596e\u5973\u596f\u5972\u590d\u596f\u5977\u5e73 \u53f0\u5928\u5941\u5962\u5961\u5964\u5969 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5936\u5929\uff0c \u91c7 \u7528\u5941\u5964\u5961\u596d\u4f18\u5316\u7b97\u6cd5\u5928\u594b\u5969\u596e\u5967\u596d\u5961 \u5961\u596e\u5964 \u5942\u5961\u592c \u5932\u5930\u5931\u5934\u5929\u3002\u5b66\u4e60\u7387\u521d\u59cb\u5316\u4e3a\u5931\u5965\u592d\u5933\uff0c\u6bcf\u5935\u5930\u5930\u6b65\u8fdb\u884c\u4e00\u6b21\u8870\u51cf\u3002\u6a21 \u578b\u4f7f\u7528\u596d\u5969\u596e\u5969\u592d\u5962\u5961\u5974\u5963\u5968\u65b9\u5f0f\u8bad\u7ec3\uff0c\u5962\u5961\u5974\u5963\u5968\u5927\u5c0f\u8bbe\u7f6e\u4e3a\u5936\u5934\u3002 3.5 \u7ed3 \u7ed3 \u7ed3\u679c \u679c \u679c\u5206 \u5206 \u5206\u6790 \u6790 \u6790 (\u4e00)\u81ea\u52a8\u8bc4\u6d4b \u5982 \u8868\u5934\u6240 \u793a \uff0c\u5947\u5954\u592d\u594b\u5942\u5951\u5947\u5728\u5942\u594c\u5945\u5955\u592d\u5931\u3001\u5942\u594c\u5945\u5955\u592d\u5932\u3001\u594d\u5965\u5974\u5965\u596f\u5972\u548c\u5952\u594f\u5955\u5947\u5945\u592d\u594c\u6307 \u6807 \u4e0a \u63d0 \u5347 \u6548 \u679c \u660e", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| }, |
| { |
| "text": "https://github.com/hanxiao/bert-as-service", |
| "cite_spans": [], |
| "ref_spans": [], |
| "eq_spans": [], |
| "section": "", |
| "sec_num": null |
| } |
| ], |
| "back_matter": [], |
| "bib_entries": {}, |
| "ref_entries": { |
| "TABREF0": { |
| "content": "<table/>", |
| "num": null, |
| "type_str": "table", |
| "html": null, |
| "text": "1 \u5f15 \u5f15 \u5f15\u8a00 \u8a00 \u8a00 \u95ee\u7b54\u5928\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e \u5941\u596e\u5973\u5977\u5965\u5972\uff0c\u5951\u5941\u5929\u7cfb\u7edf\u5229\u7528\u4fe1\u606f\u68c0\u7d22\uff0c\u5728\u6d77\u91cf\u7684\u975e\u7ed3\u6784\u5316\u6216\u8005\u7ed3\u6784\u5316\u7684\u6570\u636e\u4e2d \u63a8\u65ad\u81ea\u7136\u8bed\u8a00\u95ee\u53e5\u7684\u7b54\u6848\u3002\u95ee\u7b54\u4efb\u52a1\u662f\u4eba\u5de5\u667a\u80fd\u7684\u6838\u5fc3\u7814\u7a76\u4e4b\u4e00\uff0c\u5c31\u76ee\u524d\u6240\u7814\u7a76\u7684\u5951\u5941\u800c\u8a00\uff0c\u5927 \u90e8\u5206\u7684\u8bad\u7ec3\u6570\u636e\u90fd\u662f\u4ee5\u5951\u5941\u5bf9\u4f5c\u4e3a\u6807\u8bb0\u6570\u636e\uff0c\u4f8b\u5982\u57fa\u4e8e\u77e5\u8bc6\u5e93\u7684\u5953\u5969\u596d\u5970\u596c\u5965\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e\u5973\u5928\u5942\u596f\u5972\u5964\u5965\u5973 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5935\u5929\u6570\u636e\u96c6\uff0c\u57fa\u4e8e\u6587\u672c\u7684\u5957\u5969\u596b\u5969 \u5951\u5941\u5928\u5956\u5972\u5961\u596e\u5964\u5965\u5963\u5969\u5963 \u5961\u596e\u5964 \u594b\u5972\u597f \u596f\u5974\u597a\u5973\u5963\u5968\u592c \u5932\u5930\u5931\u5934\u5929\u6570\u636e\u96c6\uff0c\u4ee5\u53ca\u9605\u8bfb\u7406\u89e3\u6240\u7528 \u7684\u5953\u5951\u5975\u5941\u5944\u5928\u5952\u5961\u596a\u5970\u5975\u5972\u596b\u5961\u5972 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5936\u5929\u6570\u636e\u96c6\u7b49\u3002\u8fd9\u4e9b\u6570\u636e\u96c6\u53d7\u5927\u5c0f\u7b49\u9650\u5236\uff0c\u4e14\u6807\u6ce8\u82b1\u8d39\u6602\u8d35\u3002\u5e76 \u4e14\u968f\u7740\u95ee\u7b54\u7cfb\u7edf\u3001\u9605\u8bfb\u7406\u89e3\u7b49\u9886\u57df\u7684\u53d1\u5c55\uff0c\u5bf9\u6807\u6ce8\u6570\u636e\u7684\u9700\u6c42\u6108\u52a0\u5f3a\u70c8\uff0c\u56e0\u6b64\uff0c\u672c\u6587\u63a2\u7d22\u7684\u95ee \u9898\u751f\u6210\u5928\u5951\u5975\u5965\u5973\u5974\u5969\u596f\u596e \u5947\u5965\u596e\u5965\u5972\u5961\u5974\u5969\u596f\u596e\uff0c\u5951\u5947\u5929\u4efb\u52a1\u53ef\u4ee5\u4e3a\u5951\u5941\u7cfb\u7edf\u7684\u7814\u7a76\u63d0\u4f9b\u4e00\u4e2a\u6269\u5145\u6570\u636e\u96c6\u9014\u5f84\u3002 \u5f53\u4e0b\uff0c\u5951\u5947\u4efb\u52a1\u5f00\u59cb\u9010\u6e10\u4f5c\u4e3a\u4e00\u652f\u6709\u529b\u7684\u7814\u7a76\u65b9\u5411\u3002\u7ed9\u5b9a\u4e00\u7bc7\u5305\u542b\u591a\u4e2a\u4e8b\u5b9e\u592f\u77e5\u8bc6\u70b9\u7684\u6587\u672c \u548c\u6807\u51c6\u7b54\u6848\uff0c\u4f20\u7edf\u7684\u5951\u5947\u4efb\u52a1\u6839\u636e\u7b54\u6848\u4e0e\u8fd9\u4e9b\u4e8b\u5b9e\u9006\u5411\u751f\u6210\u5185\u5bb9\u4e30\u5bcc\u3001\u89d2\u5ea6\u591a\u5143\u5316\u7684\u95ee\u53e5\u3002\u968f \u7740\u6df1\u5ea6\u5b66\u4e60\u7814\u7a76\u7684\u63a8\u5165\uff0c\u5951\u5947\u4efb\u52a1\u4e5f\u5f00\u59cb\u5177\u6709\u4e86\u591a\u6837\u6027\uff0c\u7ed9\u5b9a\u4e00\u4e9b\u6570\u636e\uff0c\u4f8b\u5982\u7ed3\u6784\u5316\u7684\u77e5\u8bc6\u56fe \u8c31\u6216\u5953\u5951\u594c\uff0c\u534a\u7ed3\u6784\u5316\u7684\u8868\u683c\uff0c\u751a\u81f3\u65e0\u7ed3\u6784\u5316\u7684\u6587\u672c\u7b49\uff0c\u5951\u5947\u7cfb\u7edf\u90fd\u80fd\u6839\u636e\u8f93\u5165\u7684\u6570\u636e\u81ea\u52a8\u751f\u6210 \u81ea\u7136\u8bed\u8a00\u7684\u95ee\u9898\u3002\u95ee\u9898\u751f\u6210\u867d\u7136\u4e0d\u662f\u65b0\u5174\u4efb\u52a1\u4e14\u5176\u7814\u7a76\u9886\u57df\u8f83\u4e3a\u5c0f\u4f17\uff0c\u4f46\u968f\u7740\u56fe\u50cf\u5904\u7406\u3001\u81ea\u7136 \u8bed\u8a00\u5904\u7406\u7b49\u5404\u9886\u57df\u7814\u7a76\u7684\u76f8\u4e92\u5f71\u54cd\uff0c\u4f7f\u5f97\u7814\u7a76\u8005\u4eec\u5f00\u59cb\u5c06\u6ce8\u610f\u529b\u653e\u5728\u4e86\u5951\u5947\u4efb\u52a1\u4e0a\u3002\u57fa\u4e8e\u77e5\u8bc6 \u5e93\u7684\u5951\u5941\u7cfb\u7edf\u5f88\u96be\u7406\u89e3\u81ea\u7136\u8bed\u8a00\u95ee\u9898\uff0c\u4f9d\u9760\u76ee\u524d\u5e38\u7528\u7684\u77e5\u8bc6\u56fe\u8c31\u548c\u6570\u636e\u5e93\u4e5f\u4e0d\u4e00\u5b9a\u53ef\u4ee5\u56de\u7b54\u51fa \u8be5\u95ee\u9898\u3002\u7531\u4e8e\u5951\u5947\u7cfb\u7edf\u53ef\u4ee5\u4ece\u5df2\u6709\u7684\u77e5\u8bc6\u5e93\u751f\u6210\u5951\u5941\u7cfb\u7edf\u9700\u8981\u7684\u6807\u51c6\u595c\u95ee\u9898\u592d\u7b54\u6848\u5922\u5bf9\u6570\u636e\uff0c\u6545\u5f53\u51fa \u73b0\u4e00\u4e2a\u65b0\u95ee\u9898\u65f6\uff0c\u5951\u5947\u7cfb\u7edf\u751f\u6210\u7684\u95ee\u53e5\u4e0e\u5df2\u6709\u7684\u595c\u95ee\u9898\u592d\u7b54\u6848\u5922\u5bf9\u8fdb\u884c\u76f8\u4f3c\u8ba1\u7b97\u5411\u7528\u6237\u63a8\u8350\u77e5\u8bc6\u5e93 \u5185\u5df2\u5b58\u5728\u7684\u76f8\u63a5\u8fd1\u7684\u95ee\u9898\uff0c\u95f4\u63a5\u89e3\u51b3\u95ee\u7b54\u7684\u95ee\u9898\u3002\u5e76\u4e14\uff0c\u7531\u4e8e\u80fd\u591f\u4e0e\u5951\u5941\u4efb\u52a1\u5171\u7528\u6570\u636e\u96c6\uff0c\u5982 \u7ed9\u5b9a\u77e5\u8bc6\u5e93\u65f6\uff0c\u751f\u6210\u7684\u95ee\u53e5\u53ef\u4ee5\u4e3a\u57fa\u4e8e\u77e5\u8bc6\u5e93\u7684\u95ee\u7b54\u7cfb\u7edf\u63d0\u4f9b\u66f4\u5927\u7684\u8bad\u7ec3\u6570\u636e\u96c6\uff0c\u4e0e\u57fa\u4e8e\u77e5\u8bc6 \u5e93\u5951\u5941\u4efb\u52a1\u7684\u53ef\u6210\u4e3a\u5bf9\u5076\u4efb\u52a1\u3002\u4f20\u7edf\u7684\u5951\u5947\u7cfb\u7edf\u4f7f\u7528\u4eba\u5de5\u8bbe\u5b9a\u7684\u6a21\u677f\u6216\u89c4\u5219\u6765\u751f\u6210\u95ee\u7b54\u5bf9\u89e3\u51b3\u7279 \u5b9a\u9886\u57df\u7684\u5951\u5941\u4efb\u52a1\u3002\u672c\u6587\u7740\u91cd\u4e8e\u7ed3\u6784\u5316\u77e5\u8bc6\u5e93\u4e0a\u7684\u5951\u5947\u4efb\u52a1\u3002\u4f20\u7edf\u7684\u95ee\u9898\u751f\u6210\u65b9\u6cd5\uff0c\u591a\u91c7\u53d6\u6a21\u677f \u7684\u65b9\u5f0f\u3002\u4f8b\u5982\uff0c\u5944\u5975\u596d\u5961\u548c\u594b\u596c\u5965\u5969\u596e\u5928\u5932\u5930\u5931\u5933\u5929\u4f7f\u7528\u5173\u7cfb\u5b9a\u4e49\u7684\u6a21\u677f\u6765\u751f\u6210\u7b80\u77ed\u7684\u63cf\u8ff0\uff0c\u5e76\u76f8\u5e94\u5730\u66ff\u6362\u4e3b \u8bed\u548c\u5bbe\u8bed\u5b9e\u4f53\u7684\u5360\u4f4d\u7b26\u6807\u8bb0\u3002\u53e6\u5916\u5953\u5965\u5979\u596c\u5965\u5972\u7b49\u4eba\u5928\u5932\u5930\u5931\u5935\u5929\u4ece\u77e5\u8bc6\u5e93\u4e09\u5143\u7ec4\u4e2d\u751f\u6210\u95ee\u53e5\uff0c\u5b9e\u4f53\u4e0e\u8c13\u8bcd\u7684 \u8868\u8fbe\u7531\u5b83\u4eec\u5728\u77e5\u8bc6\u5e93\u548c\u7ed9\u5b9a\u8bcd\u5178\u4e2d\u6240\u5b58\u5728\u6807\u7b7e\u51b3\u5b9a\u3002\u5953\u5965\u5979\u596c\u5965\u5972\u7b49\u4eba\u5928\u5932\u5930\u5931\u5937\u5929\u53c2\u8003\u57fa\u4e8e\u6a21\u677f\u7684\u65b9\u6cd5\u6765\u63cf \u8ff0\u7ed3\u6784\u5316\u67e5\u8be2\u5e76\u751f\u6210\u81ea\u7136\u8bed\u8a00\u95ee\u9898\u3002\u7136\u800c\uff0c\u8fd9\u79cd\u57fa\u4e8e\u89c4\u5219\u7684\u65b9\u6cd5\u65e0\u6cd5\u8bc6\u522b\u5355\u8bcd\u7684\u8bed\u4e49\u5185\u5bb9\uff0c\u4e14 \u53ef\u6269\u5c55\u6027\u8f83\u5f31\u3002 \u5982\u4eca\u968f\u7740\u6df1\u5ea6\u5b66\u4e60\u7684\u70ed\u6f6e\uff0c\u5c24\u5176\u662f\u968f\u7740\u5953\u5965\u5971\u5975\u5965\u596e\u5963\u5965\u592d\u5974\u596f\u592d\u5953\u5965\u5971\u5975\u5965\u596e\u5963\u5965(\u5953\u5965\u5971\u5932\u5953\u5965\u5971)\u6846\u67b6\u5928\u5953\u5975\u5974\u5973\u596b\u5965\u5976\u5965\u5972 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5934\u5929\u548c\u7f16\u7801\u592d\u89e3\u7801\u7ed3\u6784\u5928\u5943\u5968\u596f \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5934\u5929\u4e3a\u81ea\u7136\u8bed\u8a00\u751f\u6210\u5928\u5f20\u5efa\u534e\u548c\u9648\u5bb6\u9a8f\u592c \u5932\u5930\u5930\u5936\u5929\u4efb\u52a1 \u5e26\u6765\u4e86\u65b0\u7684\u7814\u7a76\u65b9\u5411\uff0c\u5e76\u5728\u673a\u5668\u7ffb\u8bd1\u5928\u594c\u5975\u596f\u596e\u5967 \u5965\u5974 \u5961\u596c\u592e\u592c \u5932\u5930\u5931\u5935\u5929\u3001\u667a\u80fd\u5bf9\u8bdd\u5928\u8d3e\u71b9\u6ee8\u7b49\u4eba\u592c \u5932\u5930\u5931\u5937\u5929\u7b49" |
| }, |
| "TABREF2": { |
| "content": "<table><tr><td/><td/><td>.</td><td/></tr><tr><td>Trm</td><td>Trm</td><td>Trm</td><td>Trm</td></tr><tr><td>Trm</td><td>Trm</td><td>Trm</td><td>Trm</td></tr></table>", |
| "num": null, |
| "type_str": "table", |
| "html": null, |
| "text": "F \u5928LN \u5928\u595e e i \u5929\u5929 \u5928\u5934\u5929 e i+1 \u593d LN \u5928e i \u592b LN \u5928\u595e e i \u5929\u5929 \u5928\u5935\u5929 \u5982\u516c\u5f0f\u5928\u5935\u5929\u6240\u793a\uff0c\u7b2ci\u5c42\u7684\u6700\u7ec8\u8f93\u51fa\u4f5c\u4e3a\u7b2ci \u592b \u5931\u5928\u2264 L\u5929\u5c42\u7684\u8f93\u5165\u3002\u516c\u5f0f\u5928\u5934\u5929\u4e2d\uff0cF F \u5928\u2022\u5929\u4e3a\u4e24\u5c42\u524d\u9988\u7f51 \u7edc\uff0c\u4e24\u5c42\u4e4b\u95f4\u5177\u6709\u975e\u7ebf\u6027\u53d8\u6362\uff0c\u672c\u6587\u9009\u53d6ReLU \u975e\u7ebf\u6027\u53d8\u6362\u4ee5\u53ca\u6b8b\u5dee\u7f51\u7edc\u7684\u524d\u9988\u8fdb\u884c\u8ba1\u7b97\u3002\u901a \u8fc7\u77e5\u8bc6\u5e93\u6784\u56fe\u4e4b\u540e\uff0c\u6bcf\u4e2a\u5b9e\u4f53\u548c\u5173\u7cfb\u62e5\u6709\u5bf9\u5e94\u7684\u5411\u91cf\u5316\u8868\u793a\uff0c\u5b9e\u4f53\u4e0e\u5173\u7cfb\u7684\u62fc\u63a5\u4f5c\u4e3ai \u593d \u5931\u65f6\u7684 \u521d\u59cb\u8f93\u5165\uff0c\u5982\u516c\u5f0f\u5928\u5936\u5929\u6240\u793a\u3002 e 1 \u593d Concat\u5928e s \u593b p r \u593b e o \u5929 \u5928\u5936\u5929 \u56fe\u5931\u4e2d\u7684\u594c\u5961\u5979\u5965\u5972 \u594e\u596f\u5972\u596d\u5961\u596c\u5969\u597a\u5961\u5974\u5969\u596f\u596e\u5c42\uff0c\u5bf9\u6700\u7ec8\u7684\u8f93\u51fa\u7ed3\u679ce N \u5b9e\u884c\u5c42\u6807\u51c6\u5316\u5982\u516c\u5f0f\u5928\u5937\u5929\uff0c\u4e0e\u8bcd\u7ea7\u7f16\u7801\u5c42 \u8fdb\u884c\u878d\u5408\u3002 e N \u593d LN output \u5928e N \u5929 \u5928\u5937\u5929 \u591a\u4e2a\u5757\u72b6\u7f51\u7edc\u7684\u5806\u53e0\u4f7f\u5f97\u4fe1\u606f\u53ef\u4ee5\u4ece\u56fe\u8fdb\u884c\u4f20\u64ad\u3002\u4ece\u5947\u5954\u7f16\u7801\u5c42\u8f93\u51fa\u7684\u6700\u7ec8\u7ed3\u679c\u4e0e\u4e0b\u4e00\u8282\u7684\u6587\u5b57 \u7f16\u7801\u7ed3\u679c\u8fdb\u884c\u7ec4\u5408\u4f5c\u4e3a\u89e3\u7801\u5668\u7aef\u7684\u8f93\u5165\u3002 2.3 \u57fa \u57fa \u57fa\u4e8e \u4e8e \u4e8eBERT\u589e \u589e \u589e\u5f3a \u5f3a \u5f3a\u8bcd \u8bcd \u8bcd\u7ea7 \u7ea7 \u7ea7\u8868 \u8868 \u8868\u793a \u793a \u793a\u7684 \u7684 \u7684\u7f16 \u7f16 \u7f16\u7801 \u7801 \u7801\u5c42 \u5c42 \u5c42" |
| } |
| } |
| } |
| } |
