Title:
集積回路上での量子化されたスケーリングの準備および実行
Document Type and Number:
Japanese Patent JP6874932
Kind Code:
B1
Abstract:
【課題】集積回路上で量子化されたスケーリングの準備及び実行を行う。【解決手段】方法は、元のアレイと、元のアレイのサイズとスケーリングされたアレイのサイズとの比を表すスケーリング係数とを取得する手順と、スケーリングされたアレイの各列について、元のアレイの水平次元における２つの最も近い要素の各々の水平座標を、スケーリングされたアレイの各行について、元のアレイの垂直次元における２つの最も近い要素の各々の垂直座標を決定する手順と、スケーリングされたアレイの各行とスケーリングされたアレイの各列について、線形補間係数を算出する手順と、元のアレイの各値を、浮動小数点数から量子化された数へ変換する手順と、各線形補間係数を浮動小数点数から固定小数点数へ変換する手順と、水平座標及び垂直座標を、整数、値を量子化された数並びに線形補間係数を固定小数点数としてメモリに格納する手順と、を含むオペレーションを実行する。【選択図】図１
Inventors:
Oleg carbine
Nikolai juniper
Sakasinga Das Gupta
Nevado Birches Antonio Thomas
Nikolai juniper
Sakasinga Das Gupta
Nevado Birches Antonio Thomas
Application Number:
JP2020174978A
Publication Date:
May 19, 2021
Filing Date:
October 16, 2020
Export Citation:
Assignee:
Edge Cortics PTE Limited
International Classes:
G06F17/17
Domestic Patent References:
| JP201512415A |
Foreign References:
| US20200257960 |
Attorney, Agent or Firm:
Longhua International Patent Service Corporation