已知圆C:(x-3)²+y²=5与抛物线y²=2px(p>0)在x轴上方交于A,B两点

你的错因在于使用Δ的时候忽略了x的范围
抛物线与圆有交点 本身限制了x应该使(x-3)²+y²=5 y²=2px(p>0)都有意义
具体地说就是 对于 (x-3)²+y²=5 你必须保证 (x-3)²＜5（y才有解）
对于y²=2px(p>0) 又必须保证x＞0
所以x²+(2p-6)x+4=0这个方程的两个实根都应该在上述x的范围内
制约条件就不仅仅是Δ＞0（后面的不用再说了吧）
（这是联立二次方程最容易出错的地方）
至于第二问设出A B点的坐标 A（x1,y1）B(x2,y2)
∠ACB=90°转化为 向量AC垂直于向量BC也就是(x1-3)(x2-3)+y1y2=0
A B又都在抛物线上(y1)^2=2px1 (y2)^2=2px2
x²+(2p-6)x+4=0 使用韦达定理就可以得到一个只含有p的式子 得解

因为y²=2px
则显然x>0
(x-3)²+2px=5
x²+(2p-6)x+4=0
若p>5
2p-6>0
即x1+x2=-(2p-6)<0
不符合x>0

能把你的计算过程也发上来么

1、圆C:(x-3)²+y²=5与抛物线y²=2px(p>0)相交，得：
x²-6x+9+2px=5
即x²-(6-2p)x+4=0
圆与抛物线在x轴上方交于A,B两点
那么方程有两个不等的正根
Δ=（6-2p)²-16＞0
∴6-2p＞4
即，p＜1
∵p＞0...

圆C:(x-3)²+y²=5与抛物线y²=2px(p>0)
联立方程组，消去y得
x²-6x+9+2px=5
即x²-(6-2p)x+4=0（#）(x≥0)
圆与抛物线在x轴上方交于A,B两点
那么方程（#）有两个不等的正根
∴{Δ=（6-2p)²-16=4p²-24p+20>...