本文に飛ぶ

検索結果 16 件

ある条件下における対数関数logの倍精度浮動小数点数を用いた事前誤差評価

ある条件下における対数関数logの倍精度浮動小数点数を用いた事前誤差評価
紙記事
森倉 悠介<Z14-1592>帝京平成大学紀要 = Journal of Teikyo Heisei University33:2022.3p.115-119
国立国会図書館全国の図書館

倍精度浮動小数点数値データファイル読み書き演算処理時に発生する有効桁落ち防止方法

倍精度浮動小数点数値データファイル読み書き演算処理時に発生する有効桁落ち防止方法
紙記事
1993電気関係学会九州支部46回連合大会講演, 1993, 10月2日
全国の図書館

帝京平成大学紀要

帝京平成大学紀要
紙雑誌雑誌タイトル
帝京平成大学1995-<Z14-1592>
国立国会図書館全国の図書館
  •  
  •  
  •  
  •  
  •  
    •  

超並列数値シミュレーションにおける倍精度浮動小数点データ圧縮手法に関する一考察 (コンピュータシステム)

超並列数値シミュレーションにおける倍精度浮動小数点データ圧縮手法に関する一考察 (コンピュータシステム)
紙記事
大原 衛, 山口 隆志<Z16-940>電子情報通信学会技術研究報告 = IEICE technical report : 信学技報111(1) 2011.4.12p.5～10
国立国会図書館
  • 件名...PU チェックポインティング 倍精度浮動小数点数 可逆圧縮 massively-parallel numer...

超並列数値シミュレーションにおける倍精度浮動小数点データ圧縮手法に関する一考察 (ディペンダブルコンピューティング)

超並列数値シミュレーションにおける倍精度浮動小数点データ圧縮手法に関する一考察 (ディペンダブルコンピューティング)
紙記事
大原 衛, 山口 隆志<Z16-940>電子情報通信学会技術研究報告 = IEICE technical report : 信学技報111(2) 2011.4.12p.5～10
国立国会図書館全国の図書館
  • 件名...PU チェックポインティング 倍精度浮動小数点数 可逆圧縮 massively-parallel numer...

数値シミュレーションの精度保証と信頼性 (特集 シミュレーションと信頼性)

数値シミュレーションの精度保証と信頼性 (特集 シミュレーションと信頼性)
紙デジタル記事
大石 進一<Z14-2023>信頼性 = The journal of Reliability Engineering Association of Japan : 日本信頼性学会誌31(4) (通号 176) 2009.6p.250～255
インターネットで読める国立国会図書館全国の図書館
  • 要約等...ような精度保証付き数値計算法は倍精度浮動小数点数計算による近似計算の数倍の手間で,完全に正しい結果を与える....

数値計算における数学 : 連立一次方程式の求解法を題材として (小特集 いまさら聞けない!コンピュータの数学)

数値計算における数学 : 連立一次方程式の求解法を題材として (小特集 いまさら聞けない!コンピュータの数学)
紙記事
岩下 武史<Z14-352>情報処理 : 情報処理学会誌 : IPSJ magazine56(5)=602:2015.5p.438-441
国立国会図書館全国の図書館
  • 要約等多くの数値シミュレーションでは，倍精度浮動小数点数による計算を行うが，これらの計算中には誤差が含まれる．これら...

高精度計算ライブラリを利用した多倍長精度行列ベクトル演算の性能評価

高精度計算ライブラリを利用した多倍長精度行列ベクトル演算の性能評価
紙記事
2017-03-16第79回全国大会講演論文集2017 1p.95-96
全国の図書館
  • 要約等科学技術計算分野では、主として64ビット構成の倍精度浮動小数点数が用いられているが、数値計算の......こで、固定長の整数や固定精度の倍精度浮動小数点数を用いて多倍長精度浮動小数点数演算を実現する数値演算ライブラ...

SAR画像再生処理回路の実装検討

SAR画像再生処理回路の実装検討
紙記事
2012-03-20研究報告計算機アーキテクチャ（ARC）2012 10p.1-4
全国の図書館
  • 要約等...像再生処理は，汎用計算機等では倍精度浮動小数点数で演算するが，我々は，演算回路......した．また，評価データを用いて倍精度浮動小数点数での処理結果と比較し，同等の結果が得られることを確認した．

SR11000での4倍精度・多倍長精度演算使用例

SR11000での4倍精度・多倍長精度演算使用例
デジタル記事
2009-03九州大学情報基盤研究開発センター全国共同利用システム広報2 3p.102-108
インターネットで読める全国の図書館
  • 件名誤差 四倍精度浮動小数点数 多倍長計算 アルゴリズム error quadruple ...
  • 件名（識別子）誤差 error 四倍精度浮動小数点数 quadruple precision floating ...

C++言語用double-double型4倍精度演算ライブラリの開発とその応用

C++言語用double-double型4倍精度演算ライブラリの開発とその応用
紙記事
2014-02-24情報処理学会研究報告. [ハイパフォーマンスコンピューティング]2014 22p.1-7
全国の図書館
  • 要約等倍精度浮動小数点数を 2 個で表現できる 4 倍精度数用の演算ルーチンを作成し...

SR11000モデルJ2における4倍精度積和演算の高速化

SR11000モデルJ2における4倍精度積和演算の高速化
紙記事
永井 貴博, 吉田 仁, 黒田 久泰 他<Z74-C192>情報処理学会論文誌. SIG48(13) 2007.8p.214～222
国立国会図書館全国の図書館
  • 要約等...いる。4 倍精度数の表現には、倍精度浮動小数点数を 2 つ用いて表される 128 ビットデータ型があるが、S...

図解まるわかりアルゴリズムのしくみ

図解まるわかりアルゴリズムのしくみ
紙図書
増井敏克 著翔泳社2021.12<M159-M757>
国立国会図書館全国の図書館

小さい定数個の単精度行列への分割を用いた尾崎スキームによる倍精度行列乗算のゲーミング用GPU上での評価

小さい定数個の単精度行列への分割を用いた尾崎スキームによる倍精度行列乗算のゲーミング用GPU上での評価
紙記事
2021-02-17情報処理学会論文誌コンピューティングシステム（ACS）14 1p.1-13
全国の図書館
  • 要約等安価なゲーミング用GPUによる倍精度浮動小数点数の演算は，単精度浮動小数点数の演算よりも多くの時間がかかる．...

指数関数演算回路における性能／面積間のトレードオフに関する評価

指数関数演算回路における性能／面積間のトレードオフに関する評価
デジタル規格・テクニカルリポート類
波多江, 秀典, 橋本, 浩二, 村上, 和彰情報処理学会SLDM研究会2002-01情報処理学会研究報告, システムLSI設計技術(SLDM)104 13p.91-97
インターネットで読める全国の図書館
  • 要約等...るようになってきた．本稿では，倍精度浮動小数点数に関する指数関数を対象に，新しいハード ウェア・アルゴリズム...

Newton-Cotes求積法による数値積分の高精度保証

Newton-Cotes求積法による数値積分の高精度保証
デジタル記事
Moriyama, Atsushi, 森山, 敦史Waseda University
全国の図書館
  • 要約等...関数評価の計算に工夫を凝らし，倍精度浮動小数点数を用いて高精度に関数評価とその加算における絶対誤差の計算を行...

検索結果は以上です。

RSS