∵a+b=5，ab=3，∴（a+b）2=25，∴a2+b2+2ab=25，∴a2+b2+2×3=25，∴a2+b2=19，∵a3b-2a2b2+ab3=ab（a2-2ab+b2）=ab（a-b）2=ab[（a+b）2-4ab]∴原式=ab[（a+b）2-4ab]=3×（52-4×3）=3×13=39．故答案为：19，39．
