kyo có 1 tình huống bị lỗi mà không hiểu vấn đề tại sao muốn nhờ mọi người giúp đỡ. Với đoạn code dưới đây thì kyo gặp lỗi Overflow
Mã:
Function tiendien(sodien As Double) As Double
If sodien <= 50 Then
tiendien = sodien * 1000
Else
tiendien = 50 * 1000 + (sodien - 50) * 2000
End If
End Function
Nhưng khi sửa 50 * 1000 thành 50000 thì code vẫn chạy như bình thường.
Mọi người giải thích giúp kyo với. Cảm ơn mọi người nhiều.
kyo.
kyo có 1 tình huống bị lỗi mà không hiểu vấn đề tại sao muốn nhờ mọi người giúp đỡ. Với đoạn code dưới đây thì kyo gặp lỗi Overflow
Mã:
Function tiendien(sodien As Double) As Double
If sodien <= 50 Then
tiendien = sodien * 1000
Else
tiendien = 50 * 1000 + (sodien - 50) * 2000
End If
End Function
Nhưng khi sửa 50 * 1000 thành 50000 thì code vẫn chạy như bình thường.
Mọi người giải thích giúp kyo với. Cảm ơn mọi người nhiều.
kyo.
kyo có 1 tình huống bị lỗi mà không hiểu vấn đề tại sao muốn nhờ mọi người giúp đỡ. Với đoạn code dưới đây thì kyo gặp lỗi Overflow
Mã:
Function tiendien(sodien As Double) As Double
If sodien <= 50 Then
tiendien = sodien * 1000
Else
tiendien = 50 * 1000 + (sodien - 50) * 2000
End If
End Function
Nhưng khi sửa 50 * 1000 thành 50000 thì code vẫn chạy như bình thường.
Mọi người giải thích giúp kyo với. Cảm ơn mọi người nhiều.
kyo.
Khả năng VB đoán 10 và 5000 là kiểu short giới hạn đến 32767 nên kết quả ra 50000 bị overflow. Để tránh lỗi này bạn có thể dùng 10& để VBA chuyển sang kiểu long. Nếu chuyển sang dạng text sẽ chậm hơn.
Function tiendien(ByVal sodien As Double) As Double
If sodien <= 50 Then
tiendien = sodien * 1000
Else
tiendien = 50 * CDbl(1000) + CDbl(sodien - 50) * 2000
End If
End Function
Function tiendien(ByVal sodien As Double) As Double
If sodien <= 50 Then
tiendien = sodien * 1000
Else
tiendien = 50 * CDbl(1000) + CDbl(sodien - 50) * 2000
End If
End Function
Nếu có 50.0 sẽ chuyển sang double không bị lỗi. Nếu tính kiểu số nguyên thì dùng 50& hoặc clng(50) hoặc cint(50), số 10000 và tích tự chuyển kiểu theo.
Thực chất thì việc sử dụng CDbl hay gõ 50.0 thì cũng cùng một mục đích là để anh chàng VBA hiểu rằng "nó là một số thực" và tính toán theo kiểu của số thực thôi mà, gõ 50.0 rõ ràng là phải gọn hơn CDbl(50) hay CDbl(1000).
Thực chấtthì việc sử dụng CDbl hay gõ 50.0 thì cũng cùng một mục đích là để anh chàng VBA hiểu rằng "nó là một số thực" và tính toán theo kiểu của số thực thôi mà
Thực chất thì việc sử dụng CDbl hay gõ 50.0 thì cũng cùng một mục đích là để anh chàng VBA hiểu rằng "nó là một số thực" và tính toán theo kiểu của số thực thôi mà, gõ 50.0 rõ ràng là phải gọn hơn CDbl(50) hay CDbl(1000).
Khả năng VB đoán 10 và 5000 là kiểu short giới hạn đến 32767 nên kết quả ra 50000 bị overflow. Để tránh lỗi này bạn có thể dùng 10& để VBA chuyển sang kiểu long. Nếu chuyển sang dạng text sẽ chậm hơn.
Nó không hề đoán. Luật hằng số literals được nó định là:
Số có ký tự chỉ rõ loại: theo loại đó
Nếu khong có ký tự xác định loại:
Số có dấu chấm hoặc viết theo kiểu khoa học (có E): số thực
Số khác: số nguyên
Số nguyên trong vòng giới hạn của Integer là integer, ngoài giới hạn của Integer thì là Long (máy của tôi khi gặp số lớn hơn Long thì nó tự động gài thêm ký tự # để thành Double)
Trong code trên, 50 và 1000 đều nhỏ hơn 32767 cho nên cả hai mặc định là Integer
Trong biểu thức tính kia 50 * 1000 là con toán nhân 2 số integers cho nên mặc định kết quả là integer; và bị tràn số (50000 > 32767).
Muốn sửa thì chỉ cần chỉnh 1 trong 2 số (50 và 1000) thành kiểu lớn hơn. Kết quả của tích 2 số tự động là kiểu lớn hơn (*)
Cách 1: thêm & để thành Long
Cách 2: thêm 1 dấu chấm phía sau để thành Double (máy của toi tự động đổi dấu chấm phía sau thành #)
Trong trường hợp này, cách 2 tốt hơn
Function tiendien(ByVal sodien As Double) As Double
If sodien <= 50 Then
tiendien = sodien * 1000
Else
tiendien = 50 * CDbl(1000) + CDbl(sodien - 50) * 2000
End If
End Function
Máy tính làm con toán nhân số thực khác với nhân số nguyên. Vì vậy, các ngôn ngữ đều có luật ép kiểu.
Khi 2 số nhân/chia nhau thì số có kiểu nhỏ hơn sẽ được ép qua kiểu lớn và kết quả là kiểu lớn.
Trong biểu thức trên, (sodien - 50) * 2000 có sodien là double ròi cho nên khong cần phải ép kiểu nữa. Chỉ 50 * 1000 thì cần phải ép kiểu.
Theo nguyên tắc, 1000# là hằng, CDbl(1000) là hàm được nạp tham số hằng. Hằng luôn luôn hiệu quả hơn.
Bác lại bắt bẻ quá rồi. Nói số thực ở đây là đang nói với anh VBA, nghĩa là nói đến kiểu dữ liệu, chứ ai chẳng biết rằng mỗi số nguyên đều là số thực.
Ngoài ra, việc trả lời bài viết thì liên quan gì đến xanh lá hay xanh dương nhỉ?
Nó không hề đoán. Luật số literals được nó định là:
Số có ký tự chỉ rõ loại: theo loại đó
Nếu khong có ký tự xác định loại:
Số có dấu chấm hoặc viết theo kiểu khoa học (có E): số thực
Số khác: số nguyên
Số nguyên trong vòng giới hạn của Integer là integer, ngoài giới hạn của Integer thì là Long (máy của tôi khi gặp số lớn hơn Long thì nó tự động gài thêm ký tự # để thành Double)
Trong code trên, 50 và 1000 đều nhỏ hơn 32767 cho nên cả hai mặc định là Integer
Trong biểu thức tính kia 50 * 1000 là con toán nhân 2 số integers cho nên mặc định kết quả là integer; và bị tràn số (50000 > 32767).
Muốn sửa thì chỉ cần chỉnh 1 trong 2 số (50 và 1000) thành kiểu lớn hơn. Kết quả của tích 2 số tự động là kiểu lớn hơn (*)
Cách 1: thêm & để thành Long
Cách 2: thêm 1 dấu chấm phía sau để thành Double (máy của toi tự động đổi dấu chấm phía sau thành #)
Trong trường hợp này, cách 2 tốt hơn
Đang nói chuyện VBA mà, phải hôn?
Máy của tôi overflow với code này
Sub t()
Dim x As Integer
x = 50000#
End Sub
Và không bị với code này
Sub t()
Dim x As Integer
x = 50000# / 10
End Sub
Đang nói chuyện VBA mà, phải hôn?
Máy của tôi overflow với code này
Sub t()
Dim x As Integer
x = 50000#
End Sub
Và không bị với code này
Sub t()
Dim x As Integer
x = 50000# / 10
End Sub
