반응형
간단히 살펴본 과학적 표기법과 부동소수점
요즘 공부하는 것들2024. 1. 20. 09:38간단히 살펴본 과학적 표기법과 부동소수점

과학적 표기법과 부동소수점을 간단히 살펴봅니다. 티스토리에서 음의 지수 표기가 문제 있어서 일부 스크린캡처한 점 감안해주세요. 모바일보다는 피시나 태블릿에서 봐야 합니다. 2024. 1. 20 최초작성 이렇게 가수의 길이를 조정함으로써, 같은 숫자도 다른 정밀도로 표현할 수 있습니다. 가수가 길면 길수록, 즉 유의미한 숫자가 많으면 많을수록, 그 숫자는 더 정밀하게 표현됩니다. 이는 부동 소수점에서 매우 중요한 개념으로, 숫자를 처리하고 저장하는 데 있어서 정확도와 메모리 사용량 사이의 균형을 맞추는 데 사용됩니다. 부동 소수점은 실수를 과학적 표기에 따라 표기한 것입니다. 컴퓨터 메모리와 처리 능력의 한계 때문에, 모든 숫자를 무한한 정확도로 저장할 수는 없습니다. 따라서 부동 소수점 수를 사용할 때,..

Python/Python 예제 코드2021. 11. 10. 22:27Python에서 실수 출력 포맷 지정하기

Python에서 실수 출력 포맷을 지정하는 예제 코드입니다. 2021. 11. 10 - 최초작성 소수점 두번째 자리까지 출력하기 pi = 3.14159265359 print("{:.2f}".format(pi)) 소수점 두번째 자리까지 출력되었습니다. 3.14 5개의 문자 출력할 공간에 소수점 두번째 자리까지 실수 출력하기 pi = 3.14159265359 print("{:5.2f}".format(pi)) 소수점 포함해서 출력될 문자 개수가 4개라서(3.14) 앞에 빈 공백이 하나 추가되어 출력되었습니다. 3.14 다른 예제를 하나 더 살펴봅니다. 10개의 문자 출력할 공간에 소수점 다섯번째 자리까지 실수를 출력합니다. pi = 3.14159265359 print("{:10.5f}".format(pi)) ..

Arduino Uno2016. 8. 30. 08:00Arduino - 시리얼 통신으로 실수(double)를 전송하기

출처:http://sheepdogguides.com/arduino/aht2printfloat.htm 12345678910111213141516171819202122232425262728293031323334353637383940414243444546/*Program to provide and demonstrate a way to send floating point numbers to the serial stream.*/ double x;double y;double z; void printDouble( double val, unsigned int precision){/* prints val with number of decimal places determine by precision NOTE: precis..

반응형
image