tanh関数(双曲線正接関数)とは

tanh関数(双曲線正接関数)とは、ニューラルネットワークにおける活性化関数の一つであり、入力値を-1から1の範囲に変換する関数です。シグモイド関数と似たS字型の形状を持ちますが、出力範囲が異なるため、特定のタスクにおいて優れた性能を発揮します。

tanh関数の基本概念

tanh関数は、入力値を-1から1の範囲に変換することで、ニューラルネットワークの出力を正規化する役割を果たします。これにより、ネットワークの学習を安定化させ、収束を早める効果があります。

tanh関数の数式

tanh関数は、以下の数式で表されます。

f(x) = (e^x - e^(-x)) / (e^x + e^(-x))

この数式は、入力値xを-1から1の範囲に変換することを意味します。

tanh関数のメリット

  • 出力範囲の正規化: 出力範囲が-1から1であるため、ニューラルネットワークの出力を正規化し、学習を安定化させます。
  • シグモイド関数との比較: シグモイド関数よりも勾配消失問題の影響を受けにくい場合があります。
  • ゼロ中心化: 出力がゼロ中心であるため、後続の層への入力が平均的にゼロに近くなり、学習を効率化します。

tanh関数のデメリット

  • 勾配消失問題: 入力値が大きくなるにつれて勾配が小さくなり、学習が進まなくなる可能性があります。
  • 計算コスト: 指数関数を含むため、シグモイド関数よりも計算コストが高くなる場合があります。

tanh関数の応用例

tanh関数は、主に以下の用途で利用されます。

  • リカレントニューラルネットワーク(RNN): 時系列データの処理において、tanh関数が活性化関数として利用されます。
  • 深層学習モデル: 一部の深層学習モデルにおいて、活性化関数として利用されます。

tanh関数は、ニューラルネットワークにおける代表的な活性化関数の一つであり、出力範囲の正規化やゼロ中心化などの特徴を持ちます。適切な場面で利用することで、ニューラルネットワークの性能向上に貢献します。

関連用語

深層学習 | 今更聞けないIT用語集
勾配消失問題 | 今更聞けないIT用語集
AIソリューション

お問い合わせ

システム開発・アプリ開発に関するご相談がございましたら、APPSWINGBYまでお気軽にご連絡ください。

APPSWINGBYの

ソリューション

APPSWINGBYのセキュリティサービスについて、詳しくは以下のメニューからお進みください。

システム開発

既存事業のDXによる新規開発、既存業務システムの引継ぎ・機能追加、表計算ソフトによる管理からの卒業等々、様々なWebシステムの開発を行っています。

iOS/Androidアプリ開発

既存事業のDXによるアプリの新規開発から既存アプリの改修・機能追加まで様々なアプリ開発における様々な課題・問題を解決しています。


リファクタリング

他のベンダーが開発したウェブサービスやアプリの不具合改修やソースコードの最適化、また、クラウド移行によってランニングコストが大幅にあがってしまったシステムのリアーキテクチャなどの行っています。