运算精度
_
accuracy of operation
operational precision
примеры:
低噪音高精度运算放大器
low noise high precision calculating amplifier
пословный:
运算 | 精度 | ||
считать, вычислять; мат. действие, операция; операционный; вести расчёты
|
похожие:
运算速度
计算精度
运算进度
运算球度
运算强度
运动精度
单精度运算
双精度运算
以精度运算
解算精确度
多倍精度算
高精度计算
带运行精度
多精度算术
梯度运算符
单精度计算
多精度运算
运算数长度
双精度计算
高度并行运算
运算执行速度
精确迭代运算
可变长度运算
多倍长度运算
主机运算速度
扩充精度运算
双精确度运算
多倍精度运算
双倍精度运算
方位角测算精度
单精度字长计算
算子精度暂存器
双倍精度的计算
处理机运算速度
唯幅度算术运算
有效的运算速度
扩充精度浮点运算
加倍精度计算硬件
双倍精度算术运算
矿区控制网精度估算
解精确度解算精确度
温度压力补偿运算器
计算精度, 设计精度
倍精度运算, 双字长运算
高精度多状态机载计算机总体控制系统
高精度多工作方式机械计算机总体控制系统