下面是一个简单的解决方案：
结果：带有渐变边框的CSS圆角

.yourClass {
  display: inline-flex;
  border: double 6px transparent;
  border-radius: 80px;
  background-image: linear-gradient(white, white), radial-gradient(circle at top left, #f00, #3020ff);
  background-origin: border-box;
  background-clip: content-box, border-box;
}

可以嵌套两个元素，并让外部div充当渐变边界，然后可以解决此问题，例如：

<div class="container">
  <div class="content">
    ...
  </div>
</div>

然后在CSS中：

/* 
   unprefixed for conciseness, use a gradient generator por production code 
*/

.container { 
   background: linear-gradient(red, black);
 }

.content   { 
   background: white; 
   padding: 10px;
 }

有关工作示例，请查看https://stackoverflow.com/a/7066176/524555

在我看来，使用：before元素是最理想的解决方案，因为这样您就可以通过CSS进行完全控制，并且HTML标记保持整洁。

.circle {
  width: 300px;
  height: 200px;
  background: white;
  border-radius: 100%;
  position: relative;
  text-align: center;
  padding: 20px;
  box-sizing: border-box;
}
.circle::before {
  border-radius: 100%;
  width: 100%;
  height:100%;
  content: '';
  background-image: linear-gradient(to bottom, #3acfd5 0%, #3a4ed5 100%);
  padding: 10px;
  top: -10px;
  left: -10px;
  position:absolute;
  z-index:-1;
}

您可以调整填充以及顶部和左侧值来调整边框厚度。
下面是一个显示实用示例的JSFiddle：http://jsfiddle.net/wschwarz/e2ckdp2v/

我知道这个答案已经被回答和接受了，但是我想发布一个我使用的不同的方法，因为如果按钮在另一个梯度的背景上，或者一个图像上，这个被接受的答案就不会起作用。
我的解决方案只适用于水平渐变和圆角（但不是圆形）按钮，我使用了"border-image"属性和伪元素来实现这个效果：
按钮将只有顶部和底部的"border-image"边框，而左、右边框将用伪元素来完成。
下面是一个工作示例：
超文本：

<div class="background">
  <button class="button">
    My button!
  </button>
</div>

CSS：

*, *:before, *:after {
    box-sizing: border-box;
}

.background {
  background: linear-gradient(to bottom, #002e4b 0%,#1c4722 100%);
  width:500px;
  height:500px;
  display:flex;
  align-items:center;
  justify-content:center;
}

.button {
    box-sizing:border-box;
    display: inline-block;
    padding:0.5em 0;
    background:none;
    border:none;
    border-top:2px solid #0498f8;
    border-bottom:2px solid #0498f8;
    border-image: linear-gradient(to right, #0498f8 0%, #4db848 100%);
    border-image-slice: 1;
    position: relative;
    text-transform: lowercase;
    transition:background 0.3s;
    color: #fff;
    cursor: pointer;
    font-size:1em;
    &:before,
    &:after {
        content: '';
        display: block;
        width: 2em;
        height: calc(100% + 4px);
        border-radius: 3em 0 0 3em;
        border: 2px solid #0498f8;
        position: absolute;
        border-right: none;
        transition:background 0.3s;
        left: -2em;
        top: -2px;
    }
    &:after {
        border-radius: 0 3em 3em 0;
        border: 2px solid #4db848;
        position: absolute;
        border-left: none;
        left:auto;
        right: -2em;
        top: -2px;
    }
    &:hover {
        background:rgba(0,0,0,0.3);
        &:after,
        &:before {
            background:rgba(0,0,0,0.3);
        }
    }
}

https://jsfiddle.net/fnbq92sc/2/

border="solid 1px transparent"
background="linear-gradient(Canvas, Canvas) padding-box, linear-gradient(red, blue) border-box"
borderRadius="1rem"

背景的第二部分是你想要的渐变^