fjord/kijo.txt

38 lines
4.3 KiB
Text
Raw Normal View History

2024-03-25 15:07:04 +09:00
## 3/25
8進数から2進数への変換は3桁ずつに区切って行う。4→100 3→011 0→000 5→101 4305→100011000101
同様に16進数から2進数への変換は4桁ずつに区切って行う。8→1000 C→1100 5→0101 8C5→100011000101
最下位ビットLSB、最上位ビットMSB
2の補数表現各ビットの値を反転して、最後に1を加算して求める
補数表現の利点:足し算で実質的に引き算ができる 980-530=450ではなく980+470=1450としてから先頭の1を削って求められる
仮数:小数部分のこと 2のn乗の2の部分が基数
イクセス表現:実勢の指数に(2^7-1)=127を加えることで8bitの指数部で-126~+127を表現している ここでは10進数の128の指数が1として扱われる
正規化仮数部の最上位ビットが0にならないように指数部と調整すること。限られた仮数部を有効に使うために行われる
丸め誤差:四捨五入などにより生じる誤差のこと
桁落ち値がほぼ等しい2つの数値を減算した時に有効数字の桁数が急激に減少し、それによって発生する誤差のこと
情報落ち絶対値の差が非常に大きい2つの数値の加減算を行った時に絶対値の小さい方の値が有効桁数内に収まらず、演算結果に反映されないために発生する誤差のこと
打切り誤差:ある程度の値で収束が確認できたところで、処理を打ち切ることで生じる誤差
オーバーフロー:非常に絶対値の大きな値同士の乗算を行った場合、指数部が表現しえる正の最大値を越えることがあり、この時に誤差が発生する(オーバーフローは同符号の加算や異符号の減算を行ったときに発生する可能性がある)
アンダーフロー:非常に小さな値同士の乗算を行った場合、指数部での表現範囲の最小値よりも小さい数値が表現できないことがあり、それによりアンダーフローとなる
BCDコード10進数の1桁を2進数4桁に対応させて表現したもの 12345 = 0001 0010 0011 0100 0101
ゾーン10進数アンパック10進数10進数1桁を1バイト8bitで表す形式。1バイトの下位4bitで0~9までの数値を表現し、上位4bitは文字コードの種類を表す。+6078 = 00110110 00110000 00110111 110010001100が符号
パック10進数10進数1桁を4bitで表し、最下位の4bitに符号を付加する。
2進数のシフト演算左へ1bit桁移動するたびに数値が2倍になる2-4-8-16倍
論理シフトと算術シフト論理シフトは全ビットを対象とするので負の数は扱えないが、算術シフトは左端1bitぶんを符号ビットとして固定するので扱える
シフト演算の応用乗除算が関連しているケース10進数の演算式7÷32の結果を2進数で表せ→それぞれを2進数に直して5bit右にシフトすると求まる
応用22進数で表された正の整数xを10倍にせよ→10倍4+1倍)x2倍 = 2bit左にシフトしてから元のxを足し算して5倍、さらに1bit左にシフトして合計10倍。
排中の法則A・!A=0 A+!A=1
XOR:!A・B+A・!B
NAND:!A・!B
NOR:!A+!B
ビットマスク演算ビットの取り出し特定のビットだけを取り出す操作。取得したいビット位置のみを1としたビット列とのANDをとる。
条件付き確率:P(A|B) P(B) P(A)とそれぞれ置いた時に、P(B)xP(A|B)+P(A)xP(B|A)...というふうに計算していく
逐次ベイズ推定(ベイス更新):求めた事後確率を事前確率として使い反復することで確立精度を高めていくこと
標準正規分布平均0、標準偏差1に変換した正規分布のこと
メジアンデータを数字順に並べたときの中央の値。偶数この場合は中央2つの平均値をとる
モード:最瀕値。出現頻度がもっとも高いデータを指す
レンジ:データの最大値から最小値を引いて求めるデータの範囲
偏差値平均が50、標準偏差が10になるように変換した値。xの偏差値50+10(x-平均)/標準偏差
分散=Σ(x-平均値)^2/n 標準偏差=√分散