要在手机上开通银行卡短信服务，可以按照以下步骤操作。
对于大多数银行，可以通过下载并登录该银行的手机银行应用来开通短信服务，具体步骤如下：
1、下载并安装银行官方推出的手机银行APP。
2、打开APP并登录账户，输入手机号和验证码进行注册或登录。
3、在APP中找到“账户管理”或“我的账户”等选项，点击进入。
4、选择想要开通短信提醒服务的银行卡，并找到相应的短信通知服务选项。
5、点击开通短信通知服务并按照提示进行操作，一般需要输入手机号码并验证身份信息。
6、确认开通并支付相应的短信服务费用（如果银行收取费用的话）。
不同的银行APP操作可能有所不同，请根据所持有的银行卡和银行的要求进行操作，部分银行也可以通过发送短信指令到银行指定的号码来开通短信服务，具体方法可以咨询银行客服了解。
步骤仅供操作参考，建议咨询相应银行的工作人员了解具体流程。
