Microcomputer Technology アーカイブス

　近似、高精度計算、代数方程式の解、微積分、行列、最小二乗法などのコンピュータで計算を行うために必要なことが説明されています。整数での演算を主としていきたいので高精度計算が勉強になりました。

　リレーが手に入ったので論理回路の実験をしてみました。初期の計算機はリレーでできてたといいます。電気計算機というのでしょうか。 　テスターでは3.625Hzと表示されていますが体感的にはその1／2だと思います。NE555 … 続きを読む

幾何学的特徴点を持って解とすればいいような気がする。

　物理や工学での計算をコンピュータにどのようにさせるかがわかる本です。コンピュータ側から見ると利用者はこのように数値計算をするよと見えるでしょう。だから最初に誤差の管理が述べられていると思います。その後、近似、方程式、微 … 続きを読む

　少しブール代数について調べます。ブール代数とは何かはここでは扱わずその応用を勉強します。 ブール代数 ブール代数での方程式 山田 欽一 1964 ブール微分・偏微分 DAS S R ,  SRIMANI P K ,   … 続きを読む

に多量の実数計算をさせる今のAIシステムに未来があるとは思えません。

　数学の様々な分野をブール代数を条件とした時にどうなるか調べないといけない。 2023.06.08 ブール多次元論理というのがあったのでChatGPTに聞いてみた。 Userブール多次元論理とは何か解りますか。 Chat … 続きを読む

　8ビットマイコンを使ったAIを作る上で必要な数学を調べます。知らないところで基礎を固めていてくれている数学ですが、まだ実用化できていないAIを作る時に直接役に立つ数学の分野が新たに見つかるかもしれません。 数値計算 誤 … 続きを読む

　ここで波形測定器をまとめます。普通はオシロスコープやロジックアナライザなどで波形を確認しながらハードウェアやソフトウェアのデバッグすると思いますが、手作りの装置でできることを考ます。 発振器 測定器側の状態をや被測定回 … 続きを読む