添加一个派生的、唯一约束的列，该列跟踪两个用户的唯一组合“user 1-user 2”，其中user 1是“最低”用户，user 2是“最高”用户：

create table mytable (
  sender_id text,
  receiver_id text,
  col3 text, 
  combo_key text not null
    default concat(least(sender_id, receiver_id), '-', greatest(sender_id, receiver_id))
    unique
)

参见live demo。
尝试插入逻辑重复项将引发“重复项”异常。
破折号（可以是任何东西）被添加在用户字符串之间，以区分用户对“abc”和“de”与“ab”和“cde”。

选择和插入基于选择的结果是一种“检查和做”模式。如果两个用户试图同时选择和插入，则race conditions会打开此选项。他们都检查了，发现没有行，然后都尝试插入：一个会失败。
您可以通过事务和select for update之类的东西来解决这个问题，但这涉及到仔细的编码和可能导致死锁的锁。
最好是“先做后查”一步到位。这是"atomic"，意味着它是一个不能被中断的单一操作。
1.设置约束，以便无法添加重复项。
1.做插入。
1.如果存在冲突，则仅更新第3列。
有几种方法可以设置约束。
最简单和最健壮的是使用两个唯一索引，一个在(sender_id, receiver_id)上，另一个在(receiver_id, sender_id)上。这涵盖了两种情况。这使您可以保留发送者/接收者顺序。
另一种是在(sender_id, receiver_id)上使用一个唯一的索引，并添加一个constraint，要求sender_id总是小于receiver_id（反之亦然）：check(sender_id < receiver_id)。这也确保它们不相同。然后在插入逻辑中，对参数重新排序，以便始终以正确的顺序插入用户。您可以在insert语句中使用if()（更简单），或者使用before insert and before update triggers自动进行重新排序（更健壮）。因为您正在重新排序参数，所以不再清楚发送者和接收者是谁。您可能希望将列重命名为更通用的名称，如user1和user2。
最后，使用on duplicate key update设置第三列（如果您需要的话）。

insert into relationships (sender_id, receiver_id, col3) values
  (
   if('user1' < 'user2', 'user1', 'user2'),
   if('user1' > 'user2', 'user1', 'user2'),
   true
  )
on duplicate key update col3=true

Demonstration。

冒号（：）只是一个参数的标记，无论您打算如何提供它们。

insert into T (sender_id, receiver_id, col3)
select :sender, :receiver, true
where not exists (
    select 1 from T
    where    sender_id = :sender and receiver_id = :receiver
        or receiver_id = :sender and   sender_id = :receiver
    )