Recently, more and more people writ

Recently, more and more people write reviews and share
opinions on the World Wide Web, which present a wealth of
information on products and services [1]. These reviews will not
only help other users make better judgements but they are also
useful resources for manufacturers of products to keep track and
manage customer opinions [2]. However, there are large amounts
of reviews for every topic, it is difficult for a user to manually learn
the opinions of an interesting topic. Sentiment classification, which
aims to classify a text according to the expressed sentimental
polarities of opinions such as ‘
positive
’or‘
negative
’, ‘
thumb up
’or
‘
thumb down
’, ‘
favorable
’or‘
unfavorable
’ [3], can facilitate the
investigation of corresponding products or services.
In order to learn a good text classifier, a large number of labeled
reviews are often needed for training [4]. However, labeling
reviews is often difficult, expensive or time consuming [5]. On the
other hand, it is much easier to obtain a large number of unlabeled
reviews, such as the growing availability and popularity of online
review sites and personal blogs [6]. In recent years, a new
approach called semi-supervised learning, which uses large
amount of unlabeled data together with labeled data to build
better learners [7], has been developed in the machine learning
community.
There are several works have been done in semi-supervised
learning for sentiment classification, and have get competitive
performance [3,8–10]. However, most of the existing semi-
supervised learning methods are still far from satisfactory. As
shown by several researchers [11,12], deep architecture, which
composed of multiple levels of non-linear operations, is expected
to perform well in semi-supervised learning because of its
capability of modeling hard artificial intelligent tasks. Deep belief
networks (DBN) is a representative deep learning algorithm
achieving notable success for text classification, which is a directed
belief nets with many hidden layers constructed by restricted
Boltzmann machines (RBM), and refined by a gradient-descent
based supervised learning [12]. Ranzato and Szummer [13]
propose an algorithm to learn text document representations
based on semi-supervised auto-encoders that are combined to
form a deep network. Zhou et al. [10] propose a novel semi-
supervised learning algorithm to address the semi-supervised
sentiment classification problem with active learning. Socher et al.
[14] introduce a novel machine learning framework based on
recursive autoencoders for sentence-level prediction of sentiment
label distributions. Socher et al. [15] introduce the recursive neural
tensor network for semantic compositionality over a sentiment
treebank. The key issue of traditional DBN is the efficiency of
RBM training. Convolutional neural networks (CNN), which are
specifically designed to deal with the variability of two dimensional
shapes, have had great success in machine learning tasks and
represent one of the early successes of deep learning [16].
Desjardins and Bengio [17] adapt RBM to operate in a
convolutional manner, and show that the convolutional RBM
(CRBM) are more efficient than standard RBM.
CRBM has been applied successfully to a wide range of visual
and audio recognition tasks [18,19]. Though the success of CRBM
in addressing two dimensional issues, there is still no published research on the using of CRBM in textual information processing.
In this paper, we propose a novel semi-supervised learning
algorithm called active hybrid deep belief networks (AHD), to
address the semi-supervised sentiment classification problem with
deep learning. AHD is an active learning method based on deep
architecture, which the bottom layers are constructed by RBM,
and the upper layers are constructed by CRBM, then the whole
constructed deep architecture is fine tuned by a gradient-descent
based supervised learning based on an exponential loss function.

結果 (日本語) 1:

最近では、多くの人々 書くレビューと共有現在の富、World Wide Web 上の意見製品とサービス [1] について説明します。これらのレビューはありません。だけ他のユーザーをより適切に判断を助けるがまたメーカーは製品のための有用なリソースを追跡し、顧客の意見 [2] を管理します。しかし、量が多いすべてのトピックのレビューの手動で学ぶためにユーザーのために困難です。興味深いトピックの意見です。感情の分類を感傷的な表現によるとテキストを分類することを目指していますような出版物の極性 '肯定的です' または '否定的です’, ‘親指' または‘ダウン親指します。’, ‘有利です' または '好ましくないです。' [3] 容易にすることができます、対応する製品やサービスの調査。良いテキスト分類器を学ぶために多数のラベルレビューには、しばしばトレーニング [4]。ただし、ラベル付けレビューは頻繁に困難、高価または時間のかかる [5 です]。に、その一方、それはラベルの数が多いを入手しやすく成長する供給やオンラインの人気レビューします。レビュー サイトや個人ブログ [6]。近年、新しい大規模なを使用する半教師あり学習と呼ばれるアプローチラベル付きデータを構築すると共にラベルなしデータの量良い学習 [7]、機械学習で開発されています。コミュニティ。いくつかの作品が半教師有りで行われているがあります。感情の分類のための学習と競争を取得しています。パフォーマンス [3.8-10]。ただし、ほとんどの既存の春-教師あり学習法はまだ満足です。アメリカ合衆国深いアーキテクチャ [11, 12]、いくつかの研究者によって示されています。非線形操作の複数のレベルから成る、予定ですための半教師あり学習でよく実行するそのハードの人工知能モデリング タスクの機能。深い信念ネットワーク (DBN) 深い学習アルゴリズムの代表であります。自己指示はテキストの分類のための顕著な成功を達成します。制限によって構築された多くの隠された層と信念ネットボルツマン マシン (RBM)、および勾配降下によって洗練されました。基づく教師あり学習 [12]。Ranzato と Szummer [13]ドキュメントのテキスト表現を学習するアルゴリズムを提案します。半教師ありに基づいて自動-エンコーダーを組み合わせることネットワークを形成する深い。Zhou ら [10] 提案する小説半-教師に対処する教師あり学習アルゴリズムアクティブ ・ ラーニングの感情分類問題。Socher et al.[14] 新しい機械学習に基づくフレームワークの紹介します。感情の文レベル予測のための再帰的な autoencodersディストリビューションのラベル。Socher et al. [15] 神経の再帰を紹介します。セマンティック合わせる感情上のテンソル ネットワークtreebank。伝統的な DBN の重要な問題は効率です。RBM トレーニング。畳み込みニューラル ネットワーク (CNN) であります。2 次元の変動に対処するため特別に設計されました。図形は機械の学習タスクで素晴らしい成功を収めていると[16] 深い学習の初期の成功の 1 つを表します。Desjardins そして Bengio [17] 適応 RBM で動作するように、畳み込み方法と畳み込み RBM 表示(CRBM) 標準 RBM よりも効率的です。CRBM は、正常に visual の広い範囲に適用されています。音声認識タスク [18, 19]。しかし、CRBM の成功2 つの次元の問題に対処する、ないまだ公開に関する研究が CRBM テキスト情報の処理を使用します。本稿で提案する小説の半教師あり学習アルゴリズムをアクティブ ハイブリッド深い信念ネットワーク (AHD) と呼ばれる感情と教師付き分類問題に対処します。深い学習。AHD は深いに基づく能動的学習法です。最下の層は、RBM によって構築され、アーキテクチャ上位層はそれから CRBM の全体によって構築され、構築された深いアーキテクチャは勾配降下によって調整されて罰金急激な損失関数に基づく教師あり学習をベース。

結果 (日本語) 2:

最近では、より多くの人々がレビューを書いて、共有
の富提示している、World Wide Web上の意見を
製品やサービスに関する情報を、[1]。これらのレビューはなりませんレビュー
より良い判断を下すの他のユーザーに役立つだけでなく、彼らはまた、ある
製品の製造業者が追跡し、するための有用なリソース
お客様の声を管理する[2]。しかし、大量のある
すべてのトピックのレビューのは、ユーザーが手動で学習するために、それは困難であり、
興味深いトピックの意見を。センチメントの分類は、その
発現感傷によるとテキストを分類することを目的
のよう」などの意見件の極性
正
」または「
負
」、「
親指アップ
」や
「
親指ダウン
」、「
好調
」または「
不利
」[3]、容易にすることができる
対応する製品やサービスの調査。
良いテキスト分類器を学習するためには、ラベルの大多数
のレビューは、多くの場合、訓練のために必要とされている[4]。しかしながら、標識化
レビューが高価または時間がかかり、多くの場合、困難である[5]。で
一方、それは、非標識の大多数入手する方がはるかに簡単です
、オンラインの成長可用性と人気などのレビュー、レビューを
レビューサイトや個人のブログ[6]。近年、新たな
アプローチが、大きな使用半教師付き学習と呼ばれる
構築するデータと共に標識される非標識データ量
より良い学習者が[7]、機械学習に開発された
コミュニティ。
春に行われたいくつかの作品がありますが-supervised
感情の分類のための学習、およびget競争力がある
パフォーマンス[3.8〜10]を。しかし、既存の半のほとんどの
教師付き学習法はまだ満足には程遠いです。のように
、いくつかの研究者たち[11,12]、深いアーキテクチャで示し、その
非線形操作の複数のレベルで構成さは、予想され
、その半教師付き学習でよく実行するために
ハード人工知能のタスクをモデル化する能力。ディープ信念
ネットワーク（DBN）は、深い学習アルゴリズムを代表する
ものであるテキスト分類のために注目すべき成功を達成するため、
多くの隠れ層との信念ネットが制限することによって構築された
勾配降下によるボルツマンマシン（RBM）、そして洗練された
学習指導をベース[12 ]。RanzatoとSzummer [13]
テキスト文書表現を学習するアルゴリズムを提案
するために結合される半教師オートエンコーダーに基づいた
深いネットワークを形成する。Zhouら。[10]半小説提案する
半教師に対処するためのアルゴリズムを教師あり学習
能動学習と感情の分類問題を。Socherら
[14]に基づく新規機械学習フレームワークを紹介する
感情の文レベルの予測のための再帰的autoencoders
ラベル分布。Socherら。[15]再帰的な神経紹介する
感情の上にセマンティックcompositionalityテンソルのためのネットワークを
ツリーバンク。伝統的なDBNの重要な問題は効率です
RBMのトレーニング。コンボリューショナルニューラルネットワークである、（CNN）
2次元の変動に対処するために設計さspeci的に
形状は、機械学習のタスクで大きな成功を持っていたし、している
深い学習の初期の成功の1を表現[16]。
デジャルダンとBengio [17]土着RBMはで動作するように
畳み込み方法、及び畳み込みRBMことを示している
（CRBM）は、標準的なRBMよりも効率的である。
CRBMは、ビジュアルの広い範囲に正常に適用された
[18,19]と音声認識タスク。CRBMの成功ものの
2次元アドレッシングの問題で、テキスト情報の処理でCRBMの使用には発表された研究はまだ存在しない。
本論文では、新たな半教師付き学習の提案する
アクティブハイブリッド深い信念ネットワーク（AHD）と呼ばれるアルゴリズムを、する
とともに半教師感情の分類問題に取り組む
深い学習を。AHDは、アクティブな学習法が深い基づいているされている
一番下の層はRBMによって構築されているアーキテクチャ、
および上位層はCRBMで構成されている、その後全体が
構築され、深いアーキテクチャは細かい勾配降下によってチューニングされ
、指数に基づいて教師付き学習をベース損失関数。